人工知能がテロを防ぐ。監視社会の心配は？

人工知能が人間を監視し、将来の犯罪を予見して未然に防ごうとする行き過ぎた完璧主義。
そのような未来の世界観を「ディストピア（dystopia）」といいます。
これは「ユートピア（utopia）/理想郷」の反対語と位置づけられ、ジョージ・オーウェルの小説「1984年」が有名ですが、人工知能が全体主義的に国家・人間を管理する将来像はSF小説や映画でも定番のテーマです。
今の人工知能の性能では、とてもそんなことはあり得る話ではありませんが、人が、人を管理するために人工知能をツールとして使う、ということは荒唐無稽とも言えなくなってきました。

米ハッカーがテロ防止用の人口知能アプリ「iAWACS」を開発（ROBOTEER）
「jester」と名乗るハッカーが、人工知能で事前にテロなどを予見する、「Internet AWACS」というアプリを公開しています。
firehose（Twitterの全公開ツイートをリアルタイムに取得可能なメソッド）とIBMのWatsonによる自然言語解析を組み合わせたもののようですが、果たしてインターネットとリアルな人格とが全く一致するかというとそうとも言えず、Watsonの解析能力はどの程度の成果を得られるのでしょうか？

「テロリスト顔」から「ロリコン顔」まで！ 見た目だけで15の人格を瞬時に検知する超最新技術（精度80％）！（TOCANA）
「Faception」という顔分析システムが、パリ同時多発テロ事件の実行犯11人のうち9人を“テロリスト顔”と判別したとのこと。
顔認証による人格のカテゴライズは人工知能活用のトピックスでもかなり定番ですが、どのような特徴を抽出して決定しているのかとても気になりますね。

Faception pitch 2 min（YouTube）

精度85％以上…人工知能が顔相から「犯罪予備軍」見分ける（ROBOTEER）
中国でも同様の研究が進んでおり、ニューラルネットワークを活用し89.5%以上の精度で犯罪者の特定ができるという研究成果を発表しています。
はるか昔から「人相学」という性格を知るためにその人の人相を分析するという研究は世界各地で行われていました。
そういう意味ではなんらかの傾向や、あるいは偏りがあるのかもしれませんが・・・
分析能力の精度がますます向上し、その能力が実際に人々の安全を保障するところまで至ったとき、あなたは安心ですか？
それとも逆に不安になりますか？

人工知能が監視カメラをあやつり、不審者を発見・追跡―NTT Comが実験（INTERNETCOM）
人口知能による管理カメラでの犯罪者抽出もますます研究が進んでいるようです。
監視カメラ映像から不審者を特定する技術は、NTTコミュニケーションズだけでなくＮＥＣなどでも開発が進んでおり、すでに導入事例での成果も発表されています。

人工知能による安全保障は生活者にとって便利な一面もありますが、先回りして人格や嗜好を判定されてしまうことには若干の気持ち悪さも感じずにはいられません。
犯罪を未然に防ぐ、という社会の幸せのための研究が、極めて個人的な問題、例えば就職や恋愛、結婚の判断にも使われることも可能性としてありえます。
人工知能に依存しすぎない、健全なバランス感覚を持った社会を構築するためにも行き過ぎた技術をどの程度まで使うのか、を今から考えておく必要があります。