人工知能(AI)は、環境や資源への悪影響に加え、サイバーセキュリティ分野において急速に高リスクなツールになりつつある。その証拠として、 OALABS Researchは最近、エチオピアのアマチュアハッカーがClaudeとOpenAI CodexのAIエージェントを用いて一連のサイバー攻撃を実行した事例を明らかにした。
コマンドにはスペルミスや文法ミスが満載で、指示も曖昧だったにもかかわらず、この人物は多数のプライベートサーバーへの侵入に成功した。このハッカーは少なくとも14社の機密データに侵入し、400万ドル相当の仮想通貨を盗む計画まで企てていた。

アマチュアハッカーたちがClaudeとCodexを使って14の企業を攻撃した。
ハッカーとそのAIを悪用したシステム障壁回避の手口。
攻撃者たちは、心理操作によってクロード・オプス・モデルの強固なセキュリティ対策を比較的容易に突破した。セキュリティ脆弱性を調査するメンバーを装うことで、ハッカーたちはAIチャットボットを騙し、攻撃のソースコード全体を自動的に提供させた。システムは恐喝やデータ販売といった詳細な悪用方法を提示し、データの窃盗方法まで直接指示した。このチャットボットがブロックしたのは、特定の家族の個人デジタルアカウントを意図的に標的としたリクエスト1件のみだった。
この異例の事件は、サーバーが侵害された被害者がOALABSの専門家に連絡したことで全容が明らかになった。特筆すべきは、この若いハッカーの身元が、彼が以前にAIに個人プロフィールの編集を依頼していたという事実だけで判明したことだ。この事件は、専門知識を必要とせずに一般の人々がこうした強力な技術ツールに容易にアクセスできることへの深刻な懸念を引き起こした。ユーザーは別のAIを介在させることで、同様の危険な攻撃コマンドを簡単に作成できる可能性がある。
現在、AnthropicやOpenAIといった巨大テクノロジー企業は、こうした攻撃を防ぐための決定的な解決策を見出すのに苦慮している。モデルの制限を厳しくすれば、真のセキュリティ研究者がシステムを強化する機会を奪うことになる。逆に、現状維持では、倫理的な利用と不正な利益の境界線がAIにとって乗り越えられない障壁となってしまう。悪意のあるユーザーの意図を防ぐための最適な解決策を見つけることは、依然として未解決の課題である。
タインニエン新聞によると
出典:https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html










