機械学習と現実の体験から導かれる思考との関係

Webを見ていたら「更新：マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止(MSのコメント追記)」という話題をみつけました。利用者とのやりとりから反応を学習していく実験をおこなっていたところ不適切な発言をするようになってしまったそうです。さらに別に「人類終了のお知らせ　AIロボットがついに「人類を滅亡させる」と発言」という話題も流れていて、将来的には人間と機械の関係がSF映画のような展開になるのか、それともならないのか、意外と身近な状況になってきているようです。

マイクロソフトが応用した機械学習がどのような仕組みなのか専門的なことはわかりません。しかし機械学習の傾向として学習過程で与えられた情報というものがベースとなるはずです。そうでなければ機械学習の意味がないでしょう。たとえそれが意図的に悪意のバイアスがかけて与え続けられたとしても、それを排除して「道徳的な」思考（何が道徳的なのかを、誰が決め、どのように学習させるのかが難しい問題ですが）を学習するのは別の仕組みが必要になるでしょう。

機械学習の理論の原点は、現実の人間が学習する仕組みを基礎としているわけです。諺にも「門前の小僧習わぬ経を読む」とか「朱に交われば赤くなる」があります。学習にあたっては周囲の影響を受けていくものです。話題となった事例では悪い方向に極めてストレートに表れてしまいましたが、現実の人間社会でも起きる可能性のあることでしょう。仮にある人物が周囲の社会から得る情報が反社会的なものばかりであれば、その影響を受けずに成長（学習）するよりも、その影響を強く学習する可能性の方が高くなると思います。

現代社会に流れる情報は多すぎて個々人は極めて一部を得るのが精一杯です。どの情報を選択するのかは個人の能動的な選択の結果のようにも思えますが、自分が志向する情報を受動的に消費していることが実は多いのではないでしょうか。あえて異なる考え方を意識的に取りにいくようにしないと、世界には多様な考え方が存在することは見えないと思います。ただし得られた考え方を受け入れるか拒否するかは、当然ながら個人が選べば良いことです。

日本語だけではなく、英語でも情報を得られるようにしたいと考えています。そうすれば多様な世界にアクセスすることができるでしょう。英語では得られない情報もあるでしょうし、さらに別な言語も学びたいと思います。しかし言語学習が目標なのではなく、日本語だけでは触れられない世界を掴み取りたいと思っています。それにはまずは英語が手っ取り早いようです。