ＡＩは人類を滅ぼすか?

昨年末にスティーヴン・ホーキング博士（７３歳）が「人工知能（ＡＩ）」が将来、人類を滅ぼすと警告したのに続いて、1月には米マイクロソフト（ＭＳ）のビル・ゲイツ氏が「人工知能は危険」との認識を示しています。

ホーキング博士が危険性を説いた直後、マイクロソフト社の研究部門であるマイクロソフトリサーチのエリック・ホロビッツ氏が、「（ＡＩは）人類の脅威とはならない」と公式に反論しました。
ところがマイクロソフト創業者であるゲイツ氏が、ホーキング博士と同じ立場に立ったために、アメリカではＡＩの危険性をめぐる議論が熱を帯びてきました。

エリック・ホロビッツ氏は、「長期的にみて、（自身で進化する）ＡＩをコントロールできなくなるという懸念はあったが、私は基本的にそういうことは起こらないと思う。最終的に長い人生で、科学、教育、経済などの分野でＡＩから信じ難いほどの利益を得ることになる」と述べております。

これに対してビル・ゲイツ氏は、「当面、機械はわれわれのために多くのことをしてくれるはずで、超知的にはならず、うまく管理できている場合はプラスに評価できるが、数十年後には知能が強力になり、懸念をもたらす」と述べています。

進化した情報網の危険性は、これまで多くの小説や映画で頻繁に描かれました。
例えば、まだインターネットと言うより、パソコンも黎明期だった１９８５年に、ショートショートで有名な星新一氏が、長編小説「声の網」を発表しました。この小説はネットワークとしてコンピュータにつながれて機能する電話網が、次第に人間を監視し始め、最後にあることに気が付いた男が「神は居るか？」と電話網に質問します。　するとコンピュータは「今、お前が考えている通りだ」と答える・・というところで終わっています。

また、俳優のシュワルツネガー氏の出世作「ターミネーター」の第一話の冒頭、タイトルの前だったでしょうか、「度重なる戦争に嫌気がさした人類は、コンピューターに『戦争のない世界を作れ』と命じた。その結果コンピューターが出した答えは『戦争を起こす人類を抹殺してしまえばいい』だった。」とナレーションが語ります。

ホーキング博士もゲイツ氏も、ターミネーターのような未来は考えていないでしょう。しかし、星新一氏の「声の網」のようになる危険性を指摘しているのではないでしょうか。

現在も生活の半分以上が電子決済になっています。今後、生活のほとんどが電子マネーとなれば、世界中の人々の収入と支出をネットワークが知ることになります。人間の方は、マークした人物に対し司法の許可を取って調査出来るわけですが、機械の方はほんとにすべてを知っているわけです。ここに各所に設置された監視カメラから行動を見ていたり、携帯電話やスマホの音声を聞き分けたりした情報が加味されます。

電子マネーとは、ようするに帳簿決済のことですから、もし間違いが発生すると修正に多大な手間が掛かるでしょう。連鎖する帳簿を修正していく過程で、合成音声を使って「あなたは夕べXXに行きましたか？」とか「どこのホテルでXXさんと一緒でしたか？」などと問い合わせをしてくるかもしれません。

コンピューターの方は、電気の瞬断かなにかでミスした記憶の修正ルーチンが作動しているだけかもしれませんが、いきなり人に知られてはまずい事を聞かれればパニックになるのではないでしょうか。
そこで「嘘」を応えてしまうと、今度はコンピューターはリカバリーが出来なくなりますから、ヒューマンサイドエラーを疑い、その後もしつこく問いかけをするでしょう。場合によってはホテルの一室での会話なども流してくるかも知れません。それも一番聞かれたくない相手に電話したりして・・・

ネットワークには警察や軍事の監視システムも入っているでしょうから、いつまでも矛盾が解決しないとそのシムテムまでが連動して動きだします。
多くの犯罪者もつかまるでしょうが、犯罪でなくても監視の目は「確実に、しつこく」問い詰めて来るでしょう。ただエラーをリカバリーするためだけに・・・

各国の情報部もシステムによる諜報活動を行うでしょう。国内のスパイ対策としては警察のプログラムと連動して資金調査が出来たり、賄賂などもキャッチ出来るはずです。何しろ現金はすべてネットワークの中で動くようになりますからね。

この様になった時、人間側はどう判断し、システムを作り替えるでしょうか？
複雑に絡み合ったソフトウエアとデータは、そうなってからでは人間の手には負えない存在となっているはずです。

多くの若者が、電車の中、飲食店の中、路上でスマホを操作しています。スマホを通してネットワークはその人の居る場所を認知しています。ですからどこからかかった電話でもその人に繋がるわけです。
そういう意味で、今、ネットワークはあなたのことをすべて知っていると言えるでしょう。

もちろん、現在は機械が知っていてもプライバシーの侵害にはなりません。しかしその機械が意図的に何をやるか、それはまだわかりません。
おそらくホーキング博士やゲイツ氏は、このような事を想定して警告しているのかも知れませんね。

しかし、もしかしたらすでに我々は機械にすべてを握られているとも言えるのではないでしょうか。つまり我々はすでに、情報機器にドップリで、そこに何も危機感を抱いていないと言うことです。
なんとなくこの警告が空しく響いてきませんか？