「人工知能（AI）は人類の敵？」シンギュラリティに警鐘を鳴らす識者たち ｜ SiTest (サイテスト) ブログ

人工知能が人間を凌駕し管理するようになる、といったことが本当に起こり得えるのでしょうか？

人工知能が人類の知性を上回り始め、文明が進化と社会的転換をもたらす、という予測「技術的特異点（シンギュラリティ）」は2045年には起きうると予想されています。
Wikipediaによれば、シンギュラリティの考え方は1847年にはすでに雑誌に掲載されており、決して最近の人工知能技術の躍進を前提にしたものでは無いようです。

また、1951年にはアラン・チューリングは人間を知的能力において凌駕する機械について

機械が思考する方法がひとたび確立したならば、我らの如きひ弱な力はすぐに追い抜いて行くだろう。… （中略）機械が実権を握ることになると考えねばなるまい。

と述べています。

スティーヴン・ホーキング

現在の宇宙論に多大な影響を与えるイギリスの理論物理学者のスティーヴン・ホーキングは2014年に、

「われわれがすでに手にしている原始的な人工知能は、極めて有用であることが明らかになっている。だが、完全な人工知能の開発は人類の終わりをもたらす可能性がある」
「ひとたび人類が人工知能を開発してしまえば、それは自立し、加速度的に自らを再設計していくだろう」

と語っています。
出典：人工知能で人類は滅亡する？ ホーキング博士の警告で議論再燃（AFPBB News）

2015年にも「100年以内に人工知能は人間を超える」と警告し、再び進化しすぎる人工知能について語りました。
出典：Stephen Hawking warns computers will overtake humans within 100 years（techworld）

イーロン・マスク

テスラモーターズ会長兼CEOで、PayPalの前身でもあるX.com社を立ち上げたイーロン・マスクも、

「AIによって、われわれは悪魔を呼び出そうとしている。五芒星と聖水を持つ男が登場する物語は皆さんもご存じだろう。その男は悪魔を操ることができると確信しているが、実際にはそれは不可能だ」
「実存する最大の脅威は何かを推測してほしいと言われれば、おそらくAIだと答えるだろう。人類が愚かな過ちを犯さないようにするため、国家レベルと国際レベルで、何らかの規制当局による監視を行うべきだと私は考えており、その思いをますます強めている」

とまで述べています。
出典：「人類はAIによって悪魔を呼び出そうとしている」：E・マスク氏、再び懸念を表明（CNET Japan）

ビル・ゲイツ

Microsoftの共同創始者で有名なビル・ゲイツも、同じく人工知能への危機感を表明しているひとりです。

「わたしも超知能に関して懸念を抱いている側の1人だ」
「当面、機械は今後もわれわれのために多くのことをしてくれるはずで、超知的にはならない。うまく管理すれば、これ自体はプラスに評価できる。だが、こうした状況から数十年後には、知能が強力になり、懸念をもたらす」

出典：ゲイツ氏も人工知能がもたらす脅威に懸念–ホーキング氏やマスク氏に続き（CNET Japan）

その他にも人工知能研究者

ローレン・オルソー（DeepMindの研究者）とスチュワート・アームストロング（Future of Humanity Institut）がその論文で

「AIは常に最良の振る舞いを行うわけではない」
「人間の監視下でAIがリアルタイムで動いている時、AIや環境にとって有害な状況が発生するのを避けるため、AIの危険な行動を中断する大きな赤いボタンを人間が押す必要があるかもしれない」

と述べ、人工知能の暴走をシャットダウンする緊急停止ボタンの必要性について主張し
ニック・ボストロム（Future of Humanity Institute所長）も、

「一度AIが人間の知能と同程度に達すれば、人間の能力をはるかに超えたスーパーインテリジェントになるまで長くはかからないと、私は個人的には考えています。人間と同程度の知能になるまでは時間がかかるかもしれませんが、その後の進化は速いはず。スーパーインテリジェントを搭載したマシーンは、人間が地球上の他の生き物に比べてパワフルであるのと同じ理由で、非常にパワフルです。人間は筋肉が発達していたり、歯が鋭いからパワフルなのではなく、脳が発達しているからパワフルなのです」

と100年以内のAIによる人類の超克と敵対の危険性を語っています。
出典：Googleの人工知能「AlphaGo」を作ったDeepMindがAIの暴走を止める「緊急停止ボタン」の仕組みを開発（Gigazine）

今までの人工知能はあくまでも限定的な領域で人間をサポートするもの、召使として使役されるようなレベルの存在でしかなく、そのようなことはSF映画の一幕でしかありえない、というのがほとんどの考え方でした。
しかし、ディープラーニングによる「学習方法の革新」と、強化学習による「未知の学習領域まで開拓する」特徴のあわせ技が人工知能の能力を爆発的に加速させ、AlphaGoが最も難関と言われる囲碁というゲームで人間を破ったことで一気にシンギュラリティへの到達が現実味を帯びてきました。
一番大きな問題は、人工知能が倫理的、道徳的な問題やジレンマをどう処理することができるのか、という部分です。
ディープラーニングによる人工知能の思考のブラックボックスを解明したとき、はじめて安心して人工知能と共存できる時代が来るのかもしれません。