Investing.com — イーロン・マスクのxAIは金曜日、同社の主力AI「Grok」が南アフリカの人種関係について不要な応答を提供した最近の事件は、「不正な改変」によるものであったと発表した。
xAIはソーシャルメディアへの投稿で、X上のGrok応答ボットのプロンプトに不正な改変が加えられ、その結果、ボットが南アフリカでの「白人大量虐殺」に関する根拠のない主張を繰り返し投稿するよう指示されたと述べた。
複数のユーザーがこのボットの応答に気付いており、質問が南アフリカとは全く関係ない場合でも、ボットが南アフリカの人種関係について言及していた。
xAIは、この事件が再発しないよう、GrokシステムプロンプトをオープンにしてGitHubで公開することや、内部コード変更に対する追加チェックの維持など、複数の対策を展開すると述べた。
また、xAIはGrokのための24時間体制の監視チームを設置する予定である。
GrokはxAIの主力AIであり、マスクはこれをOpenAIのChatGPTや他の類似サービスの競合として宣伝してきた。最近の報道によると、xAIは1000億ドル以上の評価額で200億ドルを調達する交渉を行っているという。
同社は最近、マスクが2022年に買収し、リブランディングしたプラットフォームである、以前はTwitterだったソーシャルメディアXを吸収した。
この記事は一部自動翻訳機を活用して翻訳されております。詳細は利用規約をご参照ください。