中国・イラン・北朝鮮・ロシアなどがGoogle製AIのGeminiを使ってサイバー攻撃を実行しているとGoogle脅威インテリジェンスグループが報告

GoogleのマルチモーダルAI・Geminiを、イラン・北朝鮮・中国・ロシアなどが支援するハッキンググループがマルウェアの作成やコンテンツの翻訳、フィッシング攻撃の改良などの悪質な計画に利用しようとしている数十件発見したと、Google脅威インテリジェンスグループ(GTIG)が報告しています。

Adversarial Misuse of Generative AI | Google Cloud Blog
https://cloud.google.com/blog/topics/threat-intelligence/adversarial-misuse-generative-ai/?hl=en

GTIGの調査によると、ハッキンググループはプロンプト攻撃や他のAI特有の脅威を独自に開発しようとはせず、公開されているジェイルブレイク(脱獄)用プロンプトを基本的な方法で使用するにとどまっていたとのこと。このことから、攻撃者はGeminiを使って生産性を向上させていますが、新しい能力の開発には至っていないとGoogleは論じています。

イランのハッキンググループが最も活発にGeminiを利用しており、国際防衛組織や政府組織の偵察、脆弱性調査、キャンペーン用コンテンツの作成など、幅広い目的で使用していました。特にAPT42と呼ばれるグループは、フィッシングキャンペーンの作成や防衛専門家・組織に対する偵察活動に焦点を当てていました。

中国のハッキンググループは、標的ネットワークへの侵入後の活動支援に主にGeminiを使用し、特権昇格、データ窃取、検知回避などの活動を行っていました。その使用パターンはIT管理者が業務を効率化しようとする様子に似ていたそうですが、実際には悪意のある目的で使用されていたことがわかっています。

北朝鮮のハッキンググループは、インフラストラクチャの調査、標的組織の偵察、ペイロード開発、悪意のあるスクリプト作成の支援など、攻撃ライフサイクルの複数のフェーズでGeminiを使用していました。また、西側企業に潜入工作員を配置する試みの一環として、履歴書や求人応募の作成にも利用していました。

ロシアのハッキンググループによるGeminiの使用は比較的限定的だったとのこと。これは西側のプラットフォームを避けて活動を監視されないようにしている可能性や、ロシア製のAIツールを使用している可能性が考えられるとGTIGは述べています。

情報操作活動では、イラン、中国、ロシアのハッキンググループがGeminiを使用し、主に研究やコンテンツ生成、翻訳、リーチ拡大のために活用していました。その中でも、やはりイランのハッキンググループが最も活発で、入力・出力プロンプトの4分の3を占めていました。

GTIGは、AIの責任ある開発に向けて、強力なセキュリティ対策と安全性の確保に継続的に取り組んでいます。具体的には、セキュアAIフレームワーク(SAIF)の導入、開発者向けの包括的なツールキットの提供、セーフガードの実装、モデルの安全性評価、レッドチーミングによるAIシステムのテストと保護などを行っているとのこと。GITGはこれらの取り組みにより、生成AIの大きな可能性を活かしながら、悪用のリスクを最小限に抑えることを目指していると述べました。