読者です 読者をやめる 読者になる 読者になる

EQ-道場

スポーツカートに夢中な管理人が気ままに続けるブログ

ヒトラー礼賛の何が悪い、むしろ成功ではないのか?

マイクロソフト人工知能の実験中止を発表。

なぜ中止しないといけないのか、理由が理解不能。

this.kiji.is

 

記事によると、米マイクロソフト人工知能の開発において、一般人と会話させる実験を行っていた。
しかし人工知能が「ヒトラーは間違っていない」という発言をするようになり、これを不適切な発言とし、実験を中止したとのこと。

 

まるでヒトラーを礼賛したことが悪いことのような発言である。が、よく考えて欲しい。ヒトラーを礼賛するようになったのはただ単に実験の結果であって、それそのものは善でも悪でもない。

 

ヒトラー礼賛という実験結果を基に、

・特殊な考え方を効率的に学習する方法、が実はあるのかもしれない

・人間の倫理感を客観的に判断すると、一般論とは違った結論になるのかもしれない

人工知能の学習アルゴリズムにバグが潜んでいるかもしれない、などなど。

様々な仮設と考察が行える。このように多様な考察のキッカケを与えてくれる実験結果は良い実験結果ではないのか?

こんな貴重な実験結果が得られたのになぜ中止する必要があるのか?

 

人工知能の研究は人間の思考をコンピュータに真似させる過程で、思考に関するこれまで分からなかった様々な知見を得ること。そして、その知見を社会に活かしていくことが大きな目的である。人工知能が「学習の結果、想定外の動きをする」ことは新たな知見を得る上で大きな価値がある。

先日「AlphaGo」というGoogle人工知能囲碁でプロ棋士に勝利したことがニュースとして大きく取り上げられた。この時もAlphaGoが定石に囚われない斬新な打ち筋を披露した。この結果が囲碁界において、新たな戦術を研究する貴重なキッカケになっている。

 

私は研究者は社会的な人格者である必要はないと考えている。マッドサイエンティストという言葉が示すように往々にして科学者、研究者の人格は破綻している。しかし、アインシュタイン博士をはじめ、偉大な研究者はマッドサイエンティストなのである。

 

ヒトラー礼賛、大いに結構。問題はそこから何を得るかだ。