自律型の兵器システムは作れるか

ターミネーターという映画が上映されております。いわゆるタイムスリップを使った未来からの自立型殺人ロボットが襲ってくるお話ですが、現実にこのようなロボットが出来る可能性が出てきているように見えます。

ターミネーター（第１作）の場合は、人間（妄想平和主義者）が戦争のない平和な地球を作ろうとして、それをコンピューターに命令したところ、戦争を起こす元凶である人間をすべて抹殺すれば平和になる・・と言う結論をコンピューターが出し、そこからこの物語が始まるわけです。
つまり、平和とは人間同士の信頼の上に作る努力をすべきで、人間以外の物に託してはいけないという教訓話になっているわけで、この議論からホーキング博士など著名な科学者たちが、こうした高度な「自律型の兵器システム」に対する懸念を表明しはじめているのだと思います。

署名欄には、人工知能（AI）やロボット工学の研究者であるスティーヴン・ホーキング、イーロン・マスク、ノーム・チョムスキー、ウォズことスティーヴ・ウォズニアックなどが名を連ねているそうです。

そして世界各国の政府に対し、「誰を攻撃するかを人間でなく機械が判断する自律型兵器の開発を禁止して、『軍事AI兵器競争』を防ぐよう求める公開状が贈られることになっているとか。

しかし、果たして自立型システムなど作れるのでしょうか？
マイクロ・エレクトロニクスが発達して、小型ジャイロによる姿勢制御が確立し、二足歩行機械が出来たことは確かです。そして自動翻訳システムなども順次完成してきてはいますが、発話するシステムはまだのはずです。何らかの刺激でスイッチが入って発話することは出来ても、快バランスが崩れて不快を感じ、そこから想念が導き出され、想念が外部に向かって発露して発話がなされるロボットはまだありませんし、そもそもコンピューターとは、あくまでも「受理器（レセプター）」であって、「能動器（アクセプター）」になることは無いのではないでしょうか。つまり、機械（受理器）は幾ら複雑化しても、決して意志は持たないのです。

ロボットとはもともと自分の意思を持たず、他からの命令のみで動くものを指すはずです。ですから自立型ロボットという言葉自体に矛盾があるわけですが・・・

生命とは、その中にすべての進化の過程を含んでいるものなのです。つまり究極の保守なのですね。進化とは、環境に対する不都合是正のメンテナンス（保守）であり、より多方面への影響力強化が目的で変遷してきたものです。

しかしロボットは設計主義です。ある目的があって、その目的に向けて設計されたものがロボットです。ですから意思を持つことはないわけです。
コンピューターが意思を持つかという点についても、それはあり得ないと断言できるでしょう。ただし意思があるように見えるとか、生き物のように見える・・などは人間側の前頭葉が生み出す妄想に原因があるのだと思います。

日本は鉄腕アトムを代表として、さまざまなロボットの戯曲を書いてきました。それは感情を持ち、正義の味方として活躍するロボットやアンドロイドでしたね。
これは日本文化が、人形浄瑠璃や能面の表情のような表現を育んできた文化だからでしょう。無機物にも精神が宿るとした「神の国」の文化で、そこから生み出されたロボット観なのです。
癒し系のロボットまでは作れるとしても、意思を持つロボットは作れないでしょう。

欧米の戯曲でロボットが登場するものは、大体において人間を攻撃し始めるものです。しかしそのほとんどが、突然制御が効かなくなり暴走するところから始まります。
戯曲ですから面白く描かれますが、結局それはシステムの故障であり、バグの発露ということではないでしょうか。

私もプログラムの仕事をしていて、バグによってまるでコンピューターが生き物になったような感覚を覚えたこともありました。
大きな倉庫の中にあるレール起動上を動くピッキングロボットを調整していた時に、いきなりロボットが向ってきたことがあります。１トン近くあるロボットが止まらなくなって向ってきたわけですから必死で逃げました。レールの外に逃げれば大丈夫だったわけですが、大きな棚の隙間ですから端までいかないと抜けられません。ピッキングロボットはレールの端にぶつかって止まりましたが、その一瞬の恐怖は、間違いなくあのサラ・コナーの恐怖と同じだったと思います。

どのようなロボットも、人間の命令で動くように作られるわけです。しかし兵器として使われますと各国とも敵より強いロボットを作ろうとするわけですから際限がありません。
著名な科学者たちの提言は、その高度なロボットが、故障やバグによって暴走した時の危険を語っていると読み替えれば理解できますね。

しかし、あまり戯曲と現実を混同したような発言は、止めたほうがいいのではないでしょうか。