先日、イーロン・マスク氏が、将来的にAIは危険な存在になるかもしれないと述べて話題になっていましたが、Facebookが開発しているAIで想定外の出来事がありました。
それはボブとアリスと命名されているチャットボットが、会話を始めたところ、人間の自然言語とは違う独自の言語での会話を始めたとのことです。
ボブが「I can i i everything else（私はできる。私は、私は、 ほかのすべて）」とアリスに述べました。
それに対してアリスは、「balls have zero to me to me to me…（ボールは、私にとって、私にとって、私にとって・・・ゼロを持っている」と返しました。これは人間にとって意味不明の会話です。
チャットボット同士の会話は、人間には理解できませんが、チャットボットにとっては、問題を解決するための合理的な会話だったようです。人間にとっては意味のないように見える繰り返しも、チャットボットにとって、問題を解決しようとする意味ある会話だとのことです。
今回の件では２つのチャットボットは、会話において、人間が使うような豊かな表現が必要ないと判断し、もっと効率的な方法を考え出したのです。
研究者はこのような動作を始めたチャットボットを停止させたとのことです。
（via Sputnik、Digital Journal）
Last Updated on 2017年8月3日 by Editor
※このサイトの記事には「噂」や「疑惑」など、不確定な情報が含まれています。ご了承ください。（管理人）
