# ML01:2023 入力操作攻撃 (Input Manipulation Attack)

### 説明

入力操作攻撃は攻撃者が意図的に入力データを改竄してモデルを欺く攻撃の一種である敵対的攻撃を含む包括的な用語です。

### 防止方法

**敵対的トレーニング:** 入力操作攻撃から防御するアプローチの一つは敵対的事例でモデルを訓練することです。 これによりモデルは攻撃に対してより堅牢になり、欺かれにくくなります。

**ロバストモデル:** もう一つのアプローチは敵対的トレーニングや防御メカニズムを組み込んだモデルなど、操作攻撃に対して堅牢になるように設計されたモデルを使用することです。

**入力バリデーション:** 入力バリデーションは入力操作攻撃の検知と防止に使用できるもう一つの重要な防御メカニズムです。 これは予期しない値やパターンなど異常がないか入力データをチェックし、悪意のある可能性が高い入力を拒否するものです。

### リスク要因

| 脅威エージェント/攻撃手法                                                                       |                                 セキュリティ上の弱点                                 |                                  影響                                  |
| ----------------------------------------------------------------------------------- | :------------------------------------------------------------------------: | :------------------------------------------------------------------: |
| <p>悪用難易度: 5 (容易)<br><br><em>ML アプリケーション依存: 4</em><br><em>ML オペレーション依存: 3</em></p>   | <p>検出難易度: 3 (普通)<br><br><em>操作された画像は肉眼では識別できず、攻撃の検出は困難になることがあります。</em></p> | <p>技術的影響: 5 (困難)<br><br><em>攻撃にはディープラーニングや画像処理技術の専門知識が必要です。</em></p> |
| <p>脅威エージェント: ディープラーニングや画像処理技術の知識を持つ攻撃者。<br><br>攻撃手法: 正規の画像に類似して意図的に作られた操作された画像。</p> |                      画像を正確に分類するディープラーニングモデルの能力における脆弱性。                     |                画像の誤分類により、セキュリティのバイパスやシステムへの侵害につながります。                |

本チャートは [下記のシナリオ](#scenario1) に基づくサンプルに過ぎないことに注意することが重要です。 実際のリスク評価は各機械学習システムの具体的な状況によって異なります。

### 攻撃シナリオの例

#### シナリオ #1: 画像分類システムの入力操作 <a href="#scenario1" id="scenario1"></a>

ディープラーニングモデルは画像を犬や猫などのさまざまなカテゴリに分類するように訓練されています。 攻撃者は正規の猫の画像に非常によく似ていますが、慎重に作成された小さな摂動により、モデルがそれを犬として誤分類するように元の画像を操作します。 モデルが実際の環境にデプロイされると、攻撃者は操作された画像を使用してセキュリティをバイパスしたりシステムに侵害したりできます。

#### シナリオ #2: 侵入検知システムを回避するためのネットワークトラフィックの操作 <a href="#scenario2" id="scenario2"></a>

ディープラーニングモデルはネットワークへの侵入を検知するように訓練されています。 攻撃者はモデルの侵入検知システムを回避するように慎重にパケットを作成することにより、ネットワークトラフィックを操作します。 攻撃者は送信元 IP アドレス、宛先 IP アドレス、ペイロードなどのネットワークトラフィックの特性を侵入検知システムに検知されないように改変できます。 たとえば、攻撃者が送信元 IP アドレスをプロキシサーバーの背後に隠したり、ネットワークトラフィックのペイロードを暗号化する可能性があります。 この種の攻撃はデータ窃取、システム侵害、その他の形態の損害につながる可能性があるため、深刻な結果をもたらす可能性があります。

### 参考資料


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://coky-t.gitbook.io/owasp-machine-learning-security-top-10-ja/owasp-sekyuriti-top-10/ml01_2023-input_manipulation_attack.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.