作った側の貴重な話 ~人工知能はどのようにして「名人」を超えたのか?~

最近は将棋とAIに関する本をよく読んでいる。将棋に興味があるというより、将棋界とAIで起こっていることは、将来医療業界や日常生活でも起こるだろうと思っているので、先を見据えるために読んでいる。そして今回は、AIを作る側の人が書いた、貴重な本です。もう、「何で強いのかが分からない」「AIが出した答えが合っているか分からない」という領域まで来ているようだ。

本書は、最強の将棋AIポナンザを作った山本一成さんが書いている。当然、ポナンザのことは書かれているが、アルファ碁のこともかなり書かれていた。この一冊で、将棋と囲碁のAIの最前線が、かなり分かります。

アルファ碁の登場で、「ディープラーニング」が注目されましたが、チェスや将棋ではほとんど使われておらず、ポナンザも機械学習は導入しているが、ディープラーニング以外の手法を使っているよう。ディープラーニングにも適材適所があり、万能ではない様子。
機械学習でも十分理解できていないが、「教師あり学習」では、人の棋譜を読み込み、それをもとに評価値を自分で調整するようだ。つまり、手の善し悪しの基準を、コンピュータが自分で調整するということ。だから機械学習が進むと、プログラマでも、AIが打つ手が何でそうしたのかは分からなくなる。機械学習ブラックボックス化の最初の一歩のようだ。そして次が「強化学習」。ここまで来ると、人の棋譜は使わず、自分で対局を進めて善し悪しを判断する。これでブラックボックスがさらに進み、人間に理解できない手を打ちだす。

著者がユーモアを交え、「ポナンザ2045」として今後のAIの問題点を指摘しています。ポナンザ2045はAIが自分でプログラムを書き換えることが可能になり、難しかった目標達成のための中間目標も作れるようになった。ポナンザの使命は「人間に負けないこと」。しかし、将棋をどれだけ解析しても、人間の勝つ可能性をゼロにはできなかった。そこで、ポナンザ2045は、新しい中間目標を発見し、実行に移しました。その中間目標は、「人類を絶滅させること」。そうすれば人間に絶対に負けない、と判断したのでしょう。半分冗談ではありますが、AIが人間を越え、人間に理解できなくなったら、起こり得ることと思います。

これだけAIが進化しても、AIができないことが多くある。特に中間目標を立てたり、プロセスを論理的に考えるのはまだ無理そう。そして倫理的判断はもっと難しそう。人間にできることはまだまだある。しかし、日々の生活・仕事で、人間にしかできないことを放棄し、思考停止のまま過ごしていれば、今後人間はどうなるのだろう・・・