[25日 ロイター] - 米半導体大手のエヌビディアは25日、対話型AI(人工知能)を使ったサービスでAIが不適切な回答をするのを防ぐソフトウエアツールを発表した。
対話型AIを巡っては、米マイクロソフトが自社の検索エンジン「Bing」に「チャットGPT」を搭載するなど企業の採用が進んでおり、エヌビディアの半導体はこうした動きを支えている。ただ、AIの回答は予測不可能で、開発者が望まない情報を提供することもある。
エヌビディアのソフトウエアツールは、AIが不適切な対応をすることを防ぎ、開発者が重要な安全対策を講じることができるように設計されている。例えば、対話型AIが武器の作り方などの情報を回答しないようにしたり、ウイルスを含む可能性のあるリンクにユーザーを誘導しないようにすることが可能。ツールは無料で提供される。
対話型AIの利用が急拡大していることを受けて、米議会からは規制を求める声が上がっている。