私は時々、出版社から書籍を贈呈されることがあります。執筆をする側とすれば、非常にありがたいとことです。
先日、早川書房さまより、『無人の兵団』という書籍をいただきました。私もざっと一読はしましたが、「アナログ派の私には少し難しいかな?」という印象でした。そこで、ある後輩が私のところに遊びに来てくれたので、「この本読んでみない」と渡したところ、次のような所感を送ってくれました。
上田さんお疲れ様です。 先日はお世話になりました。 お酒を酌み交わしながら示唆に富んだお話聴かせて頂き、私にとってとても意義のある時間だったと思っています。 少し遅くなりましたが、上田さんにお貸し頂きました『無人の兵団』という本を読み終わりましたので、まとめきれていない雑感ですが送らせて頂きます。
まず、率直な感想は「勉強になった」という感じです。自律型兵器に対する、軍部、技術サイド、倫理学者、規制運動家といった様々なセクションの捉え方がヒヤリングに基づき記述されており多角的な視点を付与してくれていると思いました。
自律型兵器そのものについては、その定義の曖昧さに関する話題を導入にしつつ、半自律ウエポン・システム、監督付き自律ウエポン・システム、完全自律ウエポン・システムといった区分をして、初学者の理解を助けるようになっているのは良点でした。
私にとって示唆に富んでいたのは第4部「フラッシュ・ウォー」及び第5部「自律兵器禁止の戦い」でした。 まず、第4部において、自律型兵器同士の戦いは「速度の軍拡競争」と言えるという気付きを得ることできました。
学生時代に勉強した機械学習の知識や近年のAI技術の動向等から、これらの応用が見込まれる自律型兵器の本質は、大量のデータに基づくパターンマッチングの「精度」にあると考えていましたが、第4部を読むことで、その本質は人間が絶対に辿り着けない状況、意思決定及び行動の連環の「速度」にあるかも知れないと認識を新たにした次第です。
続いて第5部では、自律型兵器をめぐる法律問題(国際法)に関する法学教授のチャールズ・ダンラップ氏の見解が述べられていますが、彼は間に合わせの禁止は不必要であるだけでなく有害と述べており、テクノロジーの一瞬の姿に基づいて兵器が禁止され、将来的にもっと人道的な兵器に発展するような技術改善の可能性が妨げられることに懸念を表明しています。
例えば地雷とクラスター爆弾には戦争終了後の爆発の危険があるという問題がどちらもイノベーションで解決されるものと論じています。彼は、これらのツールが使えないと、戦争を行うのに合法的だがより破壊的な手段が必要になるというパラドックスの生起を指摘しています。この指摘が、自律型兵器禁止を主張する人に対する私自身のこれまでの意見として「自律型兵器の方が個々の戦闘において人間より技術的に優れたパフォーマンスを発揮する可能性が高い」ことでしたが、別の角度からも自律型兵器禁止反対を主張する理論武装の資を得ることができました。
・・・ ・・ ・ 以上、本書を読んだ中で特に気付きになったと感じた内容について書かせて頂きました。 引き続き勉強していきたいと思います。
(以上、引用おわり)
近年のAI技術の動向によって、自動運転車の導入などが検討、推進されています。しかし、自動運転車が事故を引き起こすと、従前の楽観的な観測が一転してそれを危険し、計画や開発の見直しを迫る動きが出てきます。しかも、ここには自動運転車の導入を良しとしない側の恣意的な見解が加担している場合があります。
このようなことは米軍兵器導入などにおいてもみられます。例えば、米海兵隊のオスプレーが事故を起こすと、通常ヘリコプターと事故件数との比較もなしに、「オスプレーは危険だ」という批判がメディアを通じて大々的に流される傾向にあります。つまり、オスプレー問題を米軍批判に結び付けようとする利害者が意を得たりとばかり、恣意的な意見を述べることになりかねません。
今日では不可欠な交通手段である飛行機も、それが安全と呼ばれるまでにはたくさんの事故や犠牲がありました。また、AIによる技術革新、生活の利便性と、倫理的、道徳的、人道的価値の折り合いをどうつけるかという問題もあります。
しかし、テクノロジーというメガパワーはもはや押しとどめることはできません。テクノロジーのさらなる進歩によってのみ、問題解決をはかるしか方法はないと思われます。