OpenAIは、Storm-2035として知られるイランのグループが、同社のChatGPTチャットボットを悪用して、米国大統領選挙やその他のトピックに影響を与えることを目的としたコンテンツを作成し、広めたとして、措置を講じた。
マイクロソフトが支援するAI企業は、米国選挙候補者のコメント、ガザ紛争、イスラエルのオリンピック参加など様々な問題に関するコンテンツを生成し、ソーシャルメディアやウェブサイトを通じて共有していたこの活動を特定した。
調査の結果、このグループはChatGPTを使って長文の記事とソーシャルメディア上の短いコメントの両方を作成していたことが判明した。彼らの努力にもかかわらず、OpenAIは、この作戦がかなりの聴衆を惹きつけることに成功しなかったと報告した。
このグループによるソーシャルメディアへの投稿のほとんどは、「いいね！」、シェア、コメントなどのインタラクションをほとんど受けず、ソーシャルメディアプラットフォーム上でウェブ記事が支持を得た形跡もありませんでした。
OpenAIは、Storm-2035に関連するアカウントのサービス利用を禁止し、ポリシー違反の新たな試みを警戒している。この動きは、8月初めにマイクロソフトの脅威インテリジェンス・レポートによって、Storm-2035が米国の有権者グループと積極的に関与し、LGBTQの権利やイスラエルとハマスの対立といった問題についての極論的なコンテンツを用いて政治的な言説に影響を及ぼしていることが確認されたことを受けてのものだ。
民主党のカマラ・ハリス候補と共和党のドナルド・トランプ候補が争う現在の米大統領選は、11月5日の選挙に向けて激しい競争が繰り広げられている。5月、OpenAIはすでに、そのモデルをネット上での欺瞞的活動に利用しようとする5つの秘密工作を阻止した。
この記事はロイターが寄稿した。この記事は一部自動翻訳機を活用して翻訳されております。詳細は利用規約をご参照ください。