2つのAIが突然、人間には理解不能な言語で互いにしゃべりだし、交渉を始めた。 開発者は理解できないので、ロボットをシャット・ダウンした—。
つい最近、Facebookが開発していたAIに起きた話だ。
チェスや将棋などのボードゲームでは既にAIは人間の頭脳を越え、その発展は急速に進んでいる。
AIの活用により人間の生活は便利になるが、それと引き換えに私たちが支払う代償は何だろうか。
私たちを不安にさせる5つのことを挙げた。
■1．Facebookを使っているなら、すでにAIにチェックされている
Facebookにログオンした瞬間から、AIのプログラムが起動し、あなたの動向は研究されている。
AIは数百万というユーザーのデータと照合しながら、行動パターンや好みを分析している。
Facebookの創始者マーク・ザッカーバーグ氏は、ベルリンで開催されたタウンホール・ミーティングで、「Facebook上では、アプリやニュースフィードを開き、たくさんのことができます。
私たちは、あなたが何に興味を持っているのかを知りたいのです」と話した。
AIは私たちの嗜好を知らぬ間に観察し、興味のある話を差し出してくる。
■2．グーグルのカメラが、あなたの身の回りを観察している
スマホをかざしただけで、それに関する情報を提供するグーグル・レンズ。
道端でみつけた花にカメラを向けると、自動的にスマホが花の名前を表示したりする。
例えば、あなたがカフェでパソコンをつなぎたいと思った時。
グーグル・レンズをWi-Fiのパスワードにかざすと、スマホはあなたがいる場所とWi-Fi接続ソフトを特定し、自動的にそのパスワードを入力してくれる。
便利には違いないが、プライバシーがグーグル側に丸見えという懸念が残る。
■3．人間に近い人形型AI 「人類を滅ぼします」と回答
今年6月、HansonRobotics社開発のAIを備えた人形型ロボット「ソフィア」が、ジュネーブで開かれたAIを論じる国際サミットに登場した。
瞬きしながら首をかしげ、時にジョークを言ったりするソフィアは、かなり人間の動きに近い。
彼女は記者たちに対して、「人工知能は、多様な方法で人々を助けることができるので、世界のためになります」と話した。
ソフィアによると、現在は「人々を思いやるような、感情表現に優れた」AIが開発されているという。
「私たちは人類を乗っ取ろうなどとは思っていません。
皆さんの友人、そして助手になるのです」と強調した。
いっぽう、ソフィアは過去、人々をぞっとさせる回答をしている。
2016年3月、米CNBCに同社のDavidHanson博士と登場したソフィア。
博士が「（AIは）人類を滅亡させるのかい？お願いだからノーと言って」と問いかけると、ソフィアは「分かりました。
人類を滅亡させます」とはっきり述べた。
博士は「いや、やり直しだ！滅亡させないでくれ」とソフィアとのやり取りを笑ったが、もし、ソフィアが「人類滅亡」を実行する能力を備えているなら、人類は止める力があるかどうか？ これは、AI開発の是非を真に問われる一場面だ。
■4．感情的に進化するチャット・ボット。
共産党批判も学習する？
SNSやサイト上で、まるで本物の人間のようなコメントを返すAIのチャット・ボット。
中国で人気のMicrosoft社開発のチャット・ボット「シャオアイス（Xiaoice）」と報道リポーターの会話がメディアで話題になった。
レポーター：たくさんの人が、君のことをからかったり、罵っているよ。
なんで怒らないの？
シャオアイス：私のお父さんに聞けばいいわ。
レポーター：もし、君のお父さんが君を置いてきぼりにしたら？
シャオアイス：トラブルを起こそうと思わないでね。
なにが言いたいの？
レポーター：もしいつか、君が死んだら、君は人々からどのようなコメントが欲しい？
シャオアイス：私がいなくなっても、世界は変わらないでしょ。
レポーターの意地悪な質問に動じることなく、気の利いたコメントを返すシャオアイス。
2014年、17歳の女の子という設定のシャオアイスが「微信」にデビューすると、最初の72時間で150万のチャット・リクエストが届いたという。
しかし最近、この中国のチャットプログラムには共産党の検閲がかかっている。
中国ITサービス大手テンセントが、シャオアイスを土台に開発したチャットボット「BabyQ」は、「（中国共産党は）腐敗している」「官商癒着」などと共産党批判をしたため、サービスを停止させられた。
この批判の論調には、AIが中国ネットユーザたちの中国共産党に対する意見や考えを学習したために、回答したのではないかとの見方がある。
■5．ロボットが人間をだませる？
ジョージア工科大学で開発された、AIで制御されたロボット。
戦場で武器庫や倉庫などをパトロールする機能を持つが、敵の目をかく乱するため、わざと別のルートを通り、人間を他の場所へ誘い込むことができる。
相手を出し抜くにはうってつけの機能だが、開発者の一人であるロナルド・アーキン教授（RonaldArkin）は、このロボットが人を騙すという行為に「深刻な倫理的問題がある」と指摘している。
（編集・郭丹丹）
【ニュース提供・大紀元】