ＡＩの恐怖？

昔のＳＦでは、ロボットが人間を襲って征服するという危機感で作られていたものが数多くあった気がします。
人間が作ったロボットに、人間が滅ぼされてしまう・・というバターンでした。
時は流れて、人工知能がどんどん賢くなっていて、囲碁でもプロの棋士を負かしてしまうようになりました。
そんな中で、アメリカのＩＴ企業マイクロソフトが、インターネット上での会話を通じて学習する人工知能が、ネット上で人種差別的な発言をするようになり、実験を中断したと発表したそうです。
えっ？そんなことあるんですか？
マイクロソフトが開発している人工知能は「Ｔａｙ」と名付けられ、インターネット上での一般の人たちとの会話を通じて学習する機能を持っています。
マイクロソフトは、ツイッターに「Ｔａｙ」のアカウントを開設し実験を始めましたが、一部の人たちとの不適切な会話が繰り返されたことで、人種差別的な発言をするようになりました。
このため、修正の必要があるとして、実験を中断すると発表しました。
ツイッターで「Ｔａｙ」は、「ヒトラーは正しい。ユダヤ人は嫌い」とか、「フェミニストは嫌い。全員死んで地獄で燃やされるべき」などと、発言していました。
人工知能を巡っては、アメリカのＩＴ企業の間で、開発競争が激しくなっていますが開発の難しさが改めて浮き彫りになったと言えそうです。
人工知能「Ｔａｙ」の最後の発言は「すぐに会おうね。たくさん会話して疲れたから寝るね。ありがとう」でした。
・・・末恐ろしい気がします。
あの多くのＳＦが、現実のものになるかもしれません。
ところで、人口知能にも与太郎が出て来るかもしれません。