人工知能「Tay」の不適切発言 28.03.26

人工知能「Tay」の不適切発言、米マイクロソフトが謝罪　「システムの悪用について準備を重ねてきたが、重大な見落としがあった」
http://news.mixi.jp/view_news.pl?media_id=128&from=diary&id=3916641

人間は様々な情報や知識に触れた時に色々な想像や考えを張り巡らせた上で取捨選択して表現する。
その過程では、頭の中で結構ひどい想像や考えもしているもの。
それをそのまんま出しちゃうと、こんな感じになるってことなのかねぇ。

将棋や囲碁のAIは目的がはっきりしているので最初から良質な棋譜を学習させたりして強くなった。
世の中の情報・考え方は良いものばかりではない。むしろ悪用して「極悪AI」だってできてしまいそう。
そう考えると怖いですね。