OpenAIは、AIの安全性リーダーであるアレクサンダー・マドリーを、組織内の新しい、より広いポジションに移動させた。2023年に同社のPreparednessチームを設立したマドリーは、AIモデルが一般に公開される前に深刻なリスクがないか評価することに尽力していた。社内の変更に詳しい人物によると、準備チームの責任は今後、OpenAIの研究者であるテジャル・パトワルダンが監督することになるという。
OpenAIのチャットボットは、人間の会話を模倣し、テキストプロンプトからマルチメディアコンテンツを生成する能力で知られているが、その能力が進歩し、一部のオブザーバーの間で安全性への懸念が高まっている。
2024年初頭、マイクロソフトの支援を受けるOpenAIは、CEOのサム・アルトマンを含む役員を長とする安全・セキュリティ委員会を設置した。この動きは、OpenAIの次世代人工知能モデルの開発準備の一環だった。
本日現在、OpenAIとMadryの両社は、今回の配置転換に関するコメントを発表していない。
この記事はReutersが寄稿した。この記事は一部自動翻訳機を活用して翻訳されております。詳細は利用規約をご参照ください。