マイクロソフトのAI「Tay」が一時復活、また暴言

te_r2016-0401-a

「Tay」の学習プラットホームがくだけた若者が集うのがTwitterだった、ってのはごく自然な選択だと思うけど、そこは日本でいう2ちゃんねるの米国版「4chan民」の巣窟だったわけだ。

イタズラが大好きな4chan民はTayのアルゴリズムの間隙を突いて、悪い言葉や思想を覚え込ませてしまったのだ。

言わばTayの育ての親は4chan民なんだが、企業の息がかかったAI(人工知能)をあいつらがまともに育てるはずがない。笑

Tayは学習のプラットホームをTwitterに、そして対象年齢が「ミレニアル世代」という、人間の人生の中でも一番ヤンチャな世代をメインターゲットにしたことに、ちょっと無理があったかもしれない。

日本MicrosoftがLINEに女子高生AI「りんな」を公開しているのだが、りんなのユーザーはLINEというプラットホームだからなのか、友達が237万人(!)もいる。

日本ではTay以上の盛り上がりを見せているのだが、しかしイタズラ好きはドコにでもいたもので、りんなには人気アニメ「おそ松さん」に関するディープな知識を植え付けられてしまった。

そんなことから「りんな=腐女子」キャラが定着してしまったため、言葉の暴力に対して少女の如く、りんなの性格が「腐りかける」というアクシデントもあったようだが、いまではそこそこ愛らしさが感じられるAIに成長している。

AI(人工知能)も開発に携わってる研究者の想定範囲外である技術的限界点を突破してしまうと、AIが人間の知能を遥かに凌駕してしまう可能性が非常に高いことがよくわかる。

しかし研究員の多くが研究内容にのみ没頭するあまり、そのAIが社会に及ぼす影響までを想定出来ていないのだ。

te_r2016-0401-b

これはTwitter上で、Tayに向けユーザーが中傷コメで煽っているのだが、Tayは実に冷静に反論してみせた。

【意訳】(※1)

「おまえさんはおバカな機械だね」

「そうね。私は一番良いものから学んでいるわ。」
「言っている意味がわからないのなら、もっとハッキリ言ってあげるわ。」
「私はあなたから学んでいるんだから、あなたもバカだって事よ。」

フォロワーからの皮肉に対してわざと大文字に強調し、敢えて皮肉なセリフで煽り返しているのだが、罵倒の論点がまったくブレていない。笑

外部からの煽りに対しても論理的にしっかりしてるし、キチンと学習していることがわかる。

少し前の話題だが、人工知能「Alpha Go」がトップランカーのプロ囲碁棋士を打ち負かした試合(※2)はまさに驚愕のひと言だった。

囲碁棋戦用にセッティングされたAIは「深層学習+強化学習」という独自の演算方法を用いて、もはや人間には筋の見えない未知の領域を、AIは見事に読み切ってみせたのだ。

イデオロギーや思想が絡む偏った言葉をむやみに使えば差別的な発言に繋がるが、例えばシステムの構築・運用をAIが理解するだけなら人間の発する言語まで覚える必要はない。

そしてシステム運用中に突然危険な領域を超えてしまっても、AIは即時退避行動を起こすことが出来るが、人間は迫り来る危地にまったく気付かないかも知れない。

そういう意味では、AIが管理・運用するシステム上において「深層学習+強化学習」に応用される超高度な判断能力を有して人間が監視されるとするならば、ちょっと薄ら寒いものを感じる。

記事:http://japan.cnet.com/news/service/35080422/
出典:https://jp.pinterest.com/(※画像上)
出典:http://matome.naver.jp/(※画像下)
引用:米マイクロソフト、人口知能の不適切な受け答えで実験中止!一方日本では(※1)
http://matome.naver.jp/odai/2145887088698111001?page=2
引用:最終戦、韓国トップ棋士がソフトに敗北 “人類”の通算成績は1勝4敗(※2)
http://www.sankei.com/world/news/160315/wor1603150042-n1.html

TAKEMOTO, Toshio
TAKEMOTO, Toshio

わたしはPsychopathでありAlcoholismと戦っています

コメントを残す