Facebookが開発したAIのチャットボット、ボブとアリスが勝手に独自言語を話し出したので、研究者が驚いて停止させる事態に！
先日、イーロン・マスク氏が、将来的にAIは危険な存在になるかもしれないと述べて話題になっていましたが、Facebookが開発しているAIで想定外の出来事がありました。
それはボブとアリスと命名されているチャットボットが、会話を始めたところ、人間の自然言語とは違う独自の言語での会話を始めたとのことです。
ボブが「I can i i everything else（私はできる。私は、私は、 ほかのすべて）」とアリスに述べました。
それに対してアリスは、「balls have zero to me to me to me…（ボールは、私にとって、私にとって、私にとって・・・ゼロを持っている」と返しました。これは人間にとって意味不明の会話です。
📖 あわせて読みたい記事
Twitter、写真・ビデオ・GIFs・polls（投票）・Quote（引用）ツィートは140文字制限に加えないとアナウンスGoogleやWikipedia（英語版）が著作権侵害サイトへの接続を遮断するSOPA 法案に抗議！
チャットボット同士の会話は、人間には理解できませんが、チャットボットにとっては、問題を解決するための合理的な会話だったようです。人間にとっては意味のないように見える繰り返しも、チャットボットにとって、問題を解決しようとする意味ある会話だとのことです。
今回の件では２つのチャットボットは、会話において、人間が使うような豊かな表現が必要ないと判断し、もっと効率的な方法を考え出したのです。
研究者はこのような動作を始めたチャットボットを停止させたとのことです。
（via Sputnik、Digital Journal）
