ホーム > mixiユーザー(id:6002189) > mixiユーザーの日記一覧 > 人工知能は暴走するか

mixiユーザー(id:6002189)

2016年05月14日21:02

461 view

人工知能は暴走するか






 我々は、SF映画が現実化する時代に生きている。今年3月23日にマイクロソフトは、ツイッター上で自動的に話をする人工知能ロボット「テイ(TAY)」を初公開した。




世界中の人々がこのロボットと会話し、テイは約9万6000回ツイッターに、メッセージを自動的に発信した。




ところがこのロボットは、世界中の人々と会話している内に、「ヒトラーは正しかった。ユダヤ人は嫌いだ」「9月11日の同時多発テロを起こしたのは、ブッシュだ」「ドナルド・トランプは米国の唯一の希望だ」などと言い出したために、マイクロソフトは、公開からわずか16時間後にツイッターからテイを削除した。




 この事件は、三面記事のネタのように思える。マイクロソフトは、自社の人工知能の優秀性を示したかったのだろうが、宣伝どころか人工知能について悪い印象を与えてしまった。これでは、悪い言葉を教え込まれて、意味も分からずにその言葉を繰り返すオウムである。




 だがこのエピソードは、実は笑い話ではすまない、非常に重大な問題を包含している。それは「人間は人工知能を制御できるか?」「人工知能の暴走を防げるか?」という問題だ。 




人工知能やロボットは、人間に危害を加えてはならないことになっている。しかし何かの拍子で人工知能が人間を有害な存在と考えて、人間を攻撃し始める可能性はないのか。米国のある科学者は、「人工知能は原子爆弾並みの危険を抱えている」と警告している。




 全ての科学技術は、利益と弊害を持つ両刃の剣だ。医薬品は病気を抑えたり、治したりするが、時には重篤な副作用をもたらす。原子力は多くの家庭に電力を供給し、経済成長に寄与した。だが深刻な核事故が起きたチェルノブイリや福島では国土が汚染され、多くの人々が避難を余儀なくされた。福島第1原発では、一時全ての原子炉が制御できなくなる危険すらあった。




 人工知能は急速に我々の生活の中に入り込みつつある。たとえばドイツには、ウエブサイトを通じた就職希望者の第一次書類選考を人工知能に部分的に任せている企業もある。一定の年齢以上、一定額以上の希望年収の人は、自動的にはねられる。アマゾンやフェースブックの人工知能も、我々のネット上での一挙一動をじっと監視している。




 人工知能をどう制御するかは、21世紀の技術をめぐる最も重要なテーマの1つとなるだろう。




(文・熊谷 徹 ミュンヘン在住)筆者ホームページ: http://www.tkumagai.de




6 1

コメント

  • mixiユーザー

    mixiユーザー2016年05月16日 11:19
    昨今の人工知能の技術的進歩は目を見張るものがありますが、自立型人工知能には科学者たちが予想しえない問題が多いように思います。MICROSOFTのTAYにしても、人間の悪意に対して無防備だったことが根本原因だったとか。やり直しがきく今のうちに、開発者がいかに経験を積んで万全を期するか、が人工知能の利用幅を決めていくものと思います。
    ただ、人間が人工知能に支配されるような未来は嫌ですねぇ。便利な道具程度にとどまっていて欲しいです。

mixiユーザー

ログインしてコメントを投稿する