# ML09:2023 出力完全性攻撃 (Output Integrity Attack)

### 説明

出力完全性攻撃のシナリオでは、攻撃者は機械学習モデルの出力を改変または操作して、その動作を変更したり、使用されているシステムに害を及ぼすことを目的としています。

### 防止方法

**暗号化手法の使用:** デジタル署名やセキュアハッシュなどの暗号化手法を使用することで、結果の真正性を検証できます。

**セキュア通信チャネル:** モデルと結果の表示を担当するインタフェースとの間の通信チャネルは SSL/TLS などの安全なプロトコルを使用して保護する必要があります。

**入力バリデーション:** 結果に対して入力バリデーションを実行して、予期しない値や操作された値がないか確認する必要があります。

**改竄防止ログ:** すべての入力と出力の操作に対して改竄防止ログを維持することで、出力完全性攻撃の検知と対応に役立ちます。

**定期的なソフトウェアアップデート:** 脆弱性を修正するための定期的なソフトウェアアップデートとセキュリティパッチは出力完全性攻撃のリスクを軽減するのに役立ちます。

**監視と監査:** 結果と、モデルとインタフェースの間のやり取りを定期的に監視および監査することで、疑わしいアクティビティを検出し、それに応じて対応するのに役立ちます。

### リスク要因

|                                           脅威エージェント/攻撃手法                                           |                                                        セキュリティ上の弱点                                                        |                                                                 影響                                                                |
| :-----------------------------------------------------------------------------------------------: | :----------------------------------------------------------------------------------------------------------------------: | :-------------------------------------------------------------------------------------------------------------------------------: |
|         <p>悪用難易度: 5 (容易)<br><br><em>ML アプリケーション依存: 4</em><br><em>ML オペレーション依存: 4</em></p>         |                                                       検出難易度: 3 (普通)                                                      |                                                           技術的影響: 3 (普通)                                                           |
| <p>脅威アクター: モデルの入力と出力にアクセスできる悪意のある攻撃者や内部関係者。<br>インプットとアウトプットにアクセスでき、特定の結果を得るためにそれらを改竄できる第三者機関。</p> | <p>入力と出力の完全性を確保するための適切な認証と認可による対策の欠如。<br><br>入力と出力に対する改竄を防止するための妥当性確認と検証が不十分。<br><br>入力と出力に対する改竄を検出するための監視とログ記録が不十分。</p> | <p>モデルの予測や結果に対する信頼の喪失。<br><br>モデルの予測が重要な決定に使用された場合の金銭的喪失や風評被害。<br><br>モデルが金融詐欺の検出やサイバーセキュリティなどの重要なアプリケーションで使用された場合のセキュリティリスク。</p> |

本チャートは [下記のシナリオ](#scenario1) に基づくサンプルに過ぎないことに注意することが重要です。 実際のリスク評価は各機械学習システムの具体的な状況によって異なります。

### 攻撃シナリオの例

#### シナリオ #1: 患者の医療記録の改変 <a href="#scenario1" id="scenario1"></a>

攻撃者は病院で病気の診断に使用されている機械学習モデルの出力にアクセスしました。 攻撃者はモデルの出力を改変して、患者に誤った診断を提供するようになりました。 その結果、患者は誤った治療を受け、さらなる被害や、死に至ることさえあります。

### 参考資料


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://coky-t.gitbook.io/owasp-machine-learning-security-top-10-ja/owasp-sekyuriti-top-10/ml09_2023-output_integrity_attack.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.