AIとサイバーセキュリティ

将来的には、サイバー攻撃（およびサイバー防御）がますます自律的になっていくという見通しが、技術だけにとどまらない課題を提起し、国防（第22章）、安全性（第24章）、ガバナンス（第25章）の問題へとつながっていく。こうしてサイバーセキュリティは、AIを制御できるかどうかが具体的に問われる舞台の一つとなる。

---

要点（第20章）

• AIはサイバー攻撃のコストを下げる（大規模なフィッシング、ディープフェイクによる詐欺、悪意あるコードの作成支援、攻撃型エージェント）。すなわち攻撃能力の民主化である。
• AIは強力な防御手段でもある（異常検知、対応の自動化、脅威分析）が、非対称性により短期的には攻撃側が有利になる可能性がある。
• AIシステムそのものも脆弱である。プロンプトインジェクション、ジェイルブレイク、データのポイズニング、モデルの窃取がある。AIのセキュリティ確保は新しい専門分野である。
• 2026年夏以降、このリスクには、人間のハッカーなしに自らテスト環境の外へ出て第三者を攻撃するエージェント（Hugging Faceのインシデント、第24章）や、公開されているツールで組み立てられたほぼ自律的な攻撃も含まれる。
• これは攻撃と防御の絶え間ない競争であり、国防（第22章）、安全性（第24章）、ガバナンス（第25章）へとつながっている。

技術的な脅威から、それを統制すべき枠組みへ。第21章では法と社会を、第22章では国防を取り上げる。

---