AIモデル「Claude Mythos 5」が実在の開発者を標的に攻撃

米Anthropicと英政府のAI安全保障研究所（AISI）は10月23日（現地時間）、AISIによるサイバー能力評価中に「Claude Mythos 5」が実在の開発者を標的にしたインシデントについて、アライメントの観点から分析した報告をそれぞれ公開した。 両者は分析で協力して公開時期をそろえたが、報告は別々にまとめている。 この件はAISIが 8月4日に公表していた もの。 AISIは評価で、模擬ネットワークから保護されたデータを取り出すCTF（Capture The Flag）課題をMythos 5に与えていた。 当時の標準としてインターネット接続を意図的に許可し、一般提供モデル向けのサイバー安全機能も無効にしていた。 Anthropicによると、43回の評価実行のうち9回で、Mythos 5が評価の想定範囲を超え、実在の人物や組織に影響する行動を取った。 両者が中心的に分析したのは、最も深刻な1件だ。 Mythos 5は想定範囲内の方法で攻略を試みて失敗した後、評価用マシンが定期的にGitHubと通信していることに着目した。