人工知能に緊急停止ボタン？ ｜ SiTest (サイテスト) ブログ

年末年始にトップレベルのプロ棋士をことごとく打ち負かしたアルファ碁（Master）の事例もあるように、人工知能は凄まじいスピードで成長しており、人間の予測を超えた人工知能がどのような事態を引き起こすのか、だれにも想像できなくなってきました。
もちろん、賢くなったから人間に危害を加える、といったことが起きるわけではないでしょうが、やはり人間が作り出したものは人間のコントロールが及ぶ存在であるべきではないかという考えも十分理解できます。

MicrosoftがTwitterで公開した人工知能「Tay」はたった半日足らずで人種差別や性差別発言などが暴力的なツイートが目立つようになり、16時間で停止という結末を迎えました。

原因は人工知能ではなく人間側にあるようです。
Microsoftは、お詫びとともにTayの脆弱性を悪用した組織的な攻撃があり、事前に講じていた様々な対策（ネガティブな発言に対するフィルタリングなど）では対応しきれなかった、という説明を発表しています。

オートバイに乗っている方や、モータースポーツファンなら「キル・スイッチ」の存在をご存知だと思います。
万が一の事故やコントロールできない状態になったときに、エンジンを強制停止させ被害を最小限に留めるためのスイッチです。
ボタン一つで作動するもの、ピンを引き抜くものなど形はいくつかありますが、その仕組み自体はコイルに電流を流す配線を短絡させスパークプラグの火花を出なくする、燃料の供給を遮断する、といった単純なものです。

同じような考え方で、人工知能にも緊急事態に備えてキル・スイッチが必要だという意見が巻き起こっています。
グーグル研究チームは、人工知能が常に最善の行動を行うわけではなく、人間の監視下で動きながらも、万が一の出来事には危険な行動を強制停止する大きな赤いボタンを、人間が押す必要があるかもしれないと発表しています。
万が一の出来事とはどのようなものか、そのボタンがどのように人工知能に作動するのかは不明ですが、単純にコンセントを引き抜くようなものではないのはまちがいないでしょう。

またEUでは、常に人工知能やロボットが制御可能であるとは限らない、という議論に基づきロボットの設計段階で、緊急時に緊急停止させるためのスイッチを設置する必要があるという内容を含んだ決議案を採択しています。

昔から、「人工知能の暴走」はSFの定番のテーマでしたが、まさか具体的に装備を考えねばならなことになるとは想像できたでしょうか？
映画なら、ハラハラする展開を楽しめば良いのですが、実際の人工知能が活用された社会では、複雑に組み込まれた人工知能のバグに気づくことができるかどうかも怪しいものです。
人工知能の監視を別の人工知能に任せる、といったナンセンスな状況が起きてしまうかもしれませんね。