Greg Bensinger
[サンフランシスコ ２０日 ロイター] - 「チャットＧＰＴ」を開発した米オープンＡＩのサム・アルトマン最高経営責任者（ＣＥＯ）の解任騒動は、生成ＡＩ（人工知能）開発の安全性を巡る２つの陣営間の溝を浮かび上がらせた。
一方の陣営は、ＡＩの開発を急速に進め、特に一般への普及を図ることが、ストレス耐性をテストし技術を完璧に近付ける上で不可欠だと考えており、アルトマン氏はこの陣営に属する。もう一方の陣営は、最も安全な道筋はまず実験室でＡＩの開発を仕上げてテストし、いわば「人間が食べても安全」だとの確証を得ることだと主張している。
３８歳のアルトマン氏は生成ＡＩの「顔」とも見なされる若き俊英だが、自身が創設したオープンＡＩによって１７日にＣＥＯを解任された。
一部には超知能を持つソフトウエアが制御不能に陥り、大惨事を引き起こすのではないかと警戒する声がある。こうした懸念を抱いているのは、「効果的利他主義（効率的に社会貢献をしようと考える思想）」と呼ばれる社会運動を支持し、ＡＩの進歩は人類に利益をもたらすべきだと考える技術者たちで、オープンＡＩのチーフサイエンティストでアルトマン氏の更迭に賛同した理事会メンバーでもあるイリヤ・サツケバー氏もその１人だ。
ＡＩで制御される自動運転車の開発者らの間でも、同様の相克が浮上している。車の能力や弱点を完全に把握するために、密集した都市部の道路で自動運転車をどんどん走らせるべきだという人々と、この技術には得体の知れないリスクがあり、自制が必要だと主張する向きとの対立だ。
アルトマン氏の突然の解任により、生成ＡＩにまつわるこうした懸念が一気に表面化した。
生成ＡＩは、簡単な命令（プロンプト）を出すだけで、エッセーやコンピュータープログラム、写真のような画像など、まとまりのあるコンテンツを生成することができる。チャットＧＰＴが過去１年間で世界を席巻したことで、ベストな規制・開発方法を巡る議論が加速している。
コンジェクチャーＡＩのＣＥＯで安全性擁護派のコナー・リーヒー氏は 「問題はこのソフトウエアがソーシャルメディアや暗号資産（仮想通貨）と同じような単なるいち商品なのか、それとも人間を凌駕し、制御不能となる可能性を秘めた技術なのかだ」と指摘。「未来は機械のものだろうか」と問いかける。
サツケバー氏は、アルトマン氏がオープンＡＩのソフトウエアをあまりにも早くユーザーの手に渡し、安全性をないがしろにする可能性があると感じていたとされる。
サツケバー氏とその同僚は７月のブログに「私たちは超知能となり得るＡＩを操り、制御し、暴走を防ぐ解決策を手にしていない。人間は自分たちよりもはるかに賢いＡＩシステムを確実に監督することはできないだろう」と書いている。
特に懸念されているのは、オープンＡＩが今月初めに開催した開発者向けイベントで、チャットＧＰＴ―４ソフトウエアの新バージョンや、人間の代理として働くＡＩエージェントなど、市販可能な新製品を発表したことだと報じられている。
サツケバー氏はコメント要請に応じなかった。
技術者の多くは、オープンＡＩが今後どのような道をたどるのかがＡＩの発展にとって非常に重要と考えている。先週末にはアルトマン氏のオープンＡＩへの復帰を求める話し合いが頓挫し、アルトマン氏支持派の希望は砕かれた。
昨年１１月にチャットＧＰＴが公開されると、マイクロソフトがオープンＡＩに１００億ドルを投資したほか、アルファベットやアマゾンなどが他のスタートアップ企業に数十億ドルを注ぎ込むなど、ＡＩ企業への投資熱が盛り上がった。
こうしてみると、アンソロピックやスケールＡＩのような新興ＡＩ企業が競って投資家に開発ぶりをアピールし、新しいＡＩ製品が爆発的に増えているのも無理はない。一方、規制当局もＡＩの開発に追い付こう躍起だ。バイデン米政権がガイドラインを策定したほか、ＡＩに対する広範な監視の執行に取り組む欧州連合（ＥＵ）のように、「自主規制の義務化」を進める国々もある。
大半の人々はチャットＧＰＴなどの生成ＡＩを、長文を要約させるなど仕事の補完に用いているが、プロンプト無しでさらに複雑な作業ができる「汎用人工知能」（ＡＧＩ）の出現を警戒する声もある。こうしたソフトが自ら防衛システムを乗っ取ったり、政治的プロパガンダを作成したり、武器を製造したりするのではないかという不安が巻き起こっているのだ。
オープンＡＩが８年前に非営利団体として設立されたのは、製品が利益追求に走り、危険なＡＧＩに向かうのに歯止めをかけるためでもあった。オープンＡＩの設立趣意書は「人類に危害を加えたり、権力を不当に集中させたりする脅威」に言及している。しかし設立以来、アルトマン氏は資金調達などのために社内に営利組織を設立する手助けをしてきた。
１９日夜、オープンＡＩはゲーム動画配信ツイッチのエメット・シア元ＣＥＯを暫定ＣＥＯに指名した。シア氏は９月、ソーシャルメディア上でＡＩ開発ペースの減速を提唱。「今のスピードが１０だとしたら、いったん停止はこれをゼロまで落とすことだ。私はゼロではなく１か２を目指すべきだと思う」と書いている。
２０日時点でアルトマン氏が更迭された正確な理由ははまだ明らかになっていない。しかしオープンＡＩが今後険しい試練に直面するのは間違いないだろう。