ワシントン - 連邦取引委員会（FTC）は、人工知能を活用した顔認識ソフトウェアを専門とするサンノゼを拠点とする企業、IntelliVision Technologies Corp.に対して措置を講じました。FTCは、IntelliVisionが自社の技術における人種的および性別的バイアスの不在について、虚偽かつ根拠のない主張を行ったと申し立てています。
FTCの申し立てによると、IntelliVisionは自社のソフトウェアが市場で最高の精度を持つものの一つであり、性別や人種によるバイアスなしで動作すると虚偽の広告を行ったとされています。当局は、同社がこれらの主張を裏付ける十分な証拠を持っていなかったと主張しています。
FTCによると、IntelliVisionは顔認識システムを何百万もの顔で訓練したと不正確に主張していましたが、実際には技術ははるかに小さなデータセットで訓練されていました。さらに、FTCは同社のアンチスプーフィング技術に関する主張にも異議を唱えています。この技術は、写真やビデオ画像によってシステムが欺かれるのを防ぐとされていました。
提案された同意命令の下、IntelliVisionは顔認識ソフトウェアの精度、有効性、またはバイアスのない性能について虚偽の表現をすることを禁止されることになります。また、同社は技術の能力に関する主張を行う際に、適切で信頼できる証拠を保有し、それに依拠することが求められます。
この措置は、過去1年間でFTCが扱うAI顔認識技術に関する2件目の主要な事例となります。以前、FTCはRite Aidと和解を結び、合理的な手順の実施と消費者への潜在的な危害に関する懸念から、小売業者が監視目的で顔認識を使用することを5年間禁止しました。
FTCが行政上の申し立てを発行する決定は全会一致で、5人の委員全員が賛成票を投じました。同意協定は連邦官報に掲載された後30日間、一般からのコメントを受け付け、その後FTCが命令の最終決定を行います。
この取り締まりは、AIシステムを開発・利用する企業が誠実な広告原則を遵守し、技術の能力と限界について消費者を誤解させないことを確保するというFTCのコミットメントを強調しています。この記事の情報はプレスリリースの声明に基づいています。
この記事は一部自動翻訳機を活用して翻訳されております。詳細は利用規約をご参照ください。