人工知能は暴走するか

　我々は、ＳＦ映画が現実化する時代に生きている。今年３月２３日にマイクロソフトは、ツイッター上で自動的に話をする人工知能ロボット「テイ（ＴＡＹ）」を初公開した。




世界中の人々がこのロボットと会話し、テイは約９万６０００回ツイッターに、メッセージを自動的に発信した。




ところがこのロボットは、世界中の人々と会話している内に、「ヒトラーは正しかった。ユダヤ人は嫌いだ」「９月１１日の同時多発テロを起こしたのは、ブッシュだ」「ドナルド・トランプは米国の唯一の希望だ」などと言い出したために、マイクロソフトは、公開からわずか１６時間後にツイッターからテイを削除した。




　この事件は、三面記事のネタのように思える。マイクロソフトは、自社の人工知能の優秀性を示したかったのだろうが、宣伝どころか人工知能について悪い印象を与えてしまった。これでは、悪い言葉を教え込まれて、意味も分からずにその言葉を繰り返すオウムである。




　だがこのエピソードは、実は笑い話ではすまない、非常に重大な問題を包含している。それは「人間は人工知能を制御できるか？」「人工知能の暴走を防げるか？」という問題だ。　




人工知能やロボットは、人間に危害を加えてはならないことになっている。しかし何かの拍子で人工知能が人間を有害な存在と考えて、人間を攻撃し始める可能性はないのか。米国のある科学者は、「人工知能は原子爆弾並みの危険を抱えている」と警告している。




　全ての科学技術は、利益と弊害を持つ両刃の剣だ。医薬品は病気を抑えたり、治したりするが、時には重篤な副作用をもたらす。原子力は多くの家庭に電力を供給し、経済成長に寄与した。だが深刻な核事故が起きたチェルノブイリや福島では国土が汚染され、多くの人々が避難を余儀なくされた。福島第１原発では、一時全ての原子炉が制御できなくなる危険すらあった。




　人工知能は急速に我々の生活の中に入り込みつつある。たとえばドイツには、ウエブサイトを通じた就職希望者の第一次書類選考を人工知能に部分的に任せている企業もある。一定の年齢以上、一定額以上の希望年収の人は、自動的にはねられる。アマゾンやフェースブックの人工知能も、我々のネット上での一挙一動をじっと監視している。




　人工知能をどう制御するかは、２１世紀の技術をめぐる最も重要なテーマの１つとなるだろう。




（文・熊谷　徹　ミュンヘン在住）筆者ホームページ:　ｈｔｔｐ:／／ｗｗｗ.ｔｋｕｍａｇａｉ.ｄｅ