ポール・シャーレ「無人の兵団 AI、ロボット、自律型兵器と未来の戦争」早川書房 伏見威蕃訳

本書は、急速に進化している次世代のロボット兵器の世界を読者が渉猟する道案内になるはずだ。
　　――序　生死を決定する力

武装ドローン貿易の90％以上が中国からの輸出
　　――７　世界ロボット戦争

禁止令の成否は、三つの重要な要素に左右されているように思われる。
その兵器の恐ろしさがどれほど知られているか。
軍事でどれほど役立つと思われているのか。
協力もしくは禁止を成功させるのに必要な当事者がどれだけいるのか。
　　――20　教皇とクロスボウ

【どんな本？】

　1984年の映画「ターミネーター」では、アーノルド・シュワルツェネッガー演じる殺人ロボットT-800が、リンダ・ハミルトン演じるサラ・コナー を、徹底した冷酷さで執拗に追いかけた。あの頃では不可能だった殺人ロボットが、現代ではRQ-1プレデターなどの無人攻撃機として、現実の戦場に投入されている。

　幸いにして今のところ、RQ-1プレデターのミサイル発射ボタンは人間が握っている。人間が標的を確認した上で、「アレを撃て」と命令を下す形だ。しかし、今後はわからない。機械が自動で「誰を殺すか」を決め、自動的にミサイルを発射する、そんな兵器の登場が目前に迫っている。

　このような兵器の開発は、どこまで進んでいるのか。殺人機械にどんな利益があり、どんな危険があるのか。開発者や軍事関係者は、どう考えているのか。倫理的に殺人機械は許されるのか。国際的な規制は可能なのか。

　米陸軍レンジャー部隊員としてイラクやアフガニスタンで戦い、国防省では自律型兵器の研究に従事した著者が、自律型兵器が抱える利害や現状を生々しく伝える、迫真の軍事ルポルタージュ。

【いつ出たの？分量は？読みやすい？】

　原書は Army of None : Autonomous Weapons and The Future of War, by Paul Scharre, 2018。日本語版は2019年７月25日初版発行。単行本ハードカバー縦一段組み本文約453頁＋ペイパーバック版あとがき６頁＋訳者あとがき３頁＋佐藤丙午による解説「無人兵器システムの第一人者による必読書」６頁。9.5ポイント45字×20行×453頁＝約407,700字、400字詰め原稿用紙で約1,020枚。文庫なら上下巻ぐらいの文字数。

　軍事系の訳者の中では伏見威蕃は最も親しみやすい日本語を書く。が、本書はやや硬い。いや軍事系の本としては読みやすいんだが、伏見氏の訳書としては硬い印象を受ける。つまりは私の伏見氏に対する期待値が高すぎるってだけなんだけど。

　軍事系のわりに内容はわかりやすい。巻末に略語一覧があるなど、素人読者にも配慮している。切り口も軍事・技術・倫理と広く、初心者に親切な本だ。

【構成は？】

　基本的に各章は独立しているので、気になった所だけをつまみ食いしてもいい。

クリックで詳細表示

• 本書への賛辞
• 序　生死を決定する力
• 第一部　地獄のロボット黙示録
• １　群飛襲来　軍事ロボット工学革命
• ２　ターミネーターと＜ルンバ＞　自律とはなにか？
• ３　人を殺す機械　自律型兵器とはなにか？

• 第二部　ターミネーター建造
• ４　未来はいま造られている　自律ミサイル・ドローン・ロボットの群れ
• ５　パズル・パレスの内部　国防総省は自立型兵器を建造しているのか？
• ６　境界線を越える　自律型兵器の承認
• ７　世界ロボット戦争　世界のロボット兵器
• ８　ガレージ・ロボット　DIY殺人ロボット

• 第三部　ランアウェイ・ガン
• ９　暴れ狂うロボット　自律システムの故障
• 10　指揮および意思決定　自律型兵器は安全に使えるのか？
• 11　ブラックボックス　深層ニューラル・ネットワークの摩訶不思議で異質な世界
• 12　死をもたらす故障　自律型兵器のリスク

• 第四部　フラッシュ・ウォー
• 13　ロボット対ロボット　速度の軍拡競争
• 14　見えない戦争　サイバースペースの自律
• 15　“悪魔を呼び出す”　知能を備えた機械の勃興

• 第五部　自律型兵器禁止の戦い
• 16　審理にかけられるロボット　自律型兵器と戦時国際法
• 17　非情な殺し屋　自律型兵器の殺傷力
• 18　火遊び　自律型兵器と安定性

• 第六部　世界の終末を回避する　政策兵器
• 19　ケンタウロス戦士　人間＋機械
• 20　教皇とクロスボウ　軍備管理の雑多な歴史
• 21　自律型兵器はどうしても必要なのか？　ロボット工学の致死原則の探求

• 結論　運命などなく、私たちが作るものがある
• ペイパーバック版あとがき　ロボット兵器は、現在の戦場をどのように変容させているか
• 謝辞／訳者あとがき／解説：佐藤丙午／略語／挿絵・口絵クレジット／原注／索引

【感想は？】

　無人兵器を扱った本としては、「ロボット兵士の戦争」に続く本格的なルポルタージュだ。「ロボット兵士の戦争」が無人化に着目したのに対し、本書は自律、つまり完全な自動化を主題としている。機械が標的を定め引き金を引く、そんな兵器の現状と是非を扱っている。

　そう、完全な自動化は怖い。実のところ、完全に自動化した兵器は既にある。地雷だ。

　地雷は設定したとおりに動く。所定の力がかかったら爆発する、それだけの単純な仕掛けだ。ソレが敵兵か友軍兵か民間人か、なんて考えない。戦争が終わったかどうかも知ったこっちゃない。とにかく重さを感じたら爆発する、ただそれだけ。おかげでカンボジアは悲惨な羽目になった。

機械はその行動がもたらす結果など理解せず、なんであろうとプログラムされたとおりのことをやる。
　　――序　生死を決定する力

陸軍の研究者ジョン・ホーリー「機械は過ちを犯していることを知らない」
　　――11　ブラックボックス

　にも関わらず、軍は熱心に自律型兵を研究・開発する。

(2005年から2013年の米国国防総省が公表した未来の無人システム投資に向けた)ロードマップすべてに共通のテーマは、自律性だった。
　　――１　群飛襲来　軍事ロボット工学革命

　とはいえ、本書を読む限り、米軍は研究と開発には熱心だが、実際に使うとなると慎重だ。

米軍の風土には、無人システムに作戦任務を委ねることに強い反発がある。ロボット工学システムは、監視や兵站のような支援の役割はほとんど認められているが、戦闘に適用されることはまれだ。
　　――４　未来はいま造られている

　将兵の命が重い米軍だから、積極的に無人化を進めるかと思ったが、意外とそうでもない。これには「米空軍は戦闘機パイロットの空軍」なんて言われる組織の体質もあるんだろうが、殺すか否かの決定は人間が下すべき、みたいな倫理的な部分も大きいみたいだ。もっとも、世の中はそんな組織ばかりじゃない。

ロシアのさまざまな企業が、われわれはアメリカやイギリスの防衛産業とは違い、自律的な使用について迷ったり抗弁したりはしないと豪語している。
　　――７　世界ロボット戦争

　あー、あの国はそうだろうなー。その客も国家とは限らないし。いやマジ「武器ビジネス」や「死神の報復」とか読むと背筋が凍るよ。そういや傭兵企業もあるなあ(→「ブラックウォーター」)。傭兵は民間だから、国家が決めたルールに従うとは限らないし。そしてもちろん…

フランク・ケンダル米国防次官
“何分の一秒か”で決定しなければならないときには、機械にその役割を担わせるしかない。
「(テロリストが)自動運転を使えば、(略)爆弾を積んだ車を人間に運転させる必要がない」
　　――６　境界線を越える

　テロリストも、だ。

　そんな風に、軍は板挟みになっている。機械はイマイチ信用しきれないが、敵に出し抜かれるのも困る。何より、自律が必要な現状がある。その一つが速度だ。ヒトがどんなに頑張っても、機械の応答速度には敵わない。最終決断をヒトが下すような形にしても…

戦略家トーマス・シェリング「速度が重要であるときには、すさまじい圧力のために事故や誤報の餌食になりやすい」
　　――18　火遊び

　セカされると、アセって失敗する生き物なのだ、人間ってのは。例えば「本日限定」の商品とか、つい買っちゃうよね。いやそんな穏やかな話じゃなくて、核のボタンを押すか否か、みたいな重い話なんだけど。

　もう一つが、敵によるジャミング。昔のアニメだと妨害電波ね。今だって、米軍の無人機やミサイルは、GPSや偵察機などと盛んに通信して精度を上げ、着実に目標に当たるようにしている。

元米国海軍士官ブライアン・マグラス「ミサイルはネットワークに組み込まれなければならない」
　　――３　人を殺す機械　自律型兵器とはなにか？

　でも、妨害電波で通信できなくなったら？　そこで自律だ。システムに頼らず、自分で判断して動いてくれたら嬉しいよね。でも、暴走したら怖い。また、お馬鹿な機械は、騙すのも簡単だ。

オートメーションは予想通り動くのが望ましいと人間は見なしているが、敵がいる環境では、それが脆弱性になりかねない。
　　――10　指揮および意思決定

　シューティング・ゲームが上手い人は、敵の動きを読む。単純な敵ほど、先を読むのは易しい。なら複雑にすりゃいいじゃん、と思うでしょ。ところがどっこい。

より複雑な機械は、性能が向上するかもしれないが、使用者が機械の挙動を理解して予測するのが難しくなる。
　　――10　指揮および意思決定

　どう動くのか、使う方もわかんなくなっちゃうのだ。本書に出てくる例の一つが、最近流行りの深層学習＝ディープラーニング。画像が犬か否かを見分けるとか、そんな風に使われる。要は機械に条件反射を仕込むと思っていい。ただし、どう見てもゴミな画像を犬と見間違えることもある。困ったことに、なぜその画像を犬と判断したのかがわからない。デバッグ不能なのだ。しかも、このバグは…

この(欺瞞画像)脆弱性は、ニューラル・ネットワークの基本構造から生じるものなので、特定の設計とはかかわりなく、現在使用されている深層ニューラル・ネットワークのほとんどすべてに存在する。
　　――11　ブラックボック

　ヤベーじゃん。でも便利だからアチコチで使われてる。それどころか、人間もそういう機械を相手にすると…

陸軍の操作員は、ペトリオット関係者には“疑問を抱かずにシステムを信頼する”風潮があると結論を下した。
　　――９　暴れ狂うロボット

歩行者は、オートメーション(＝自動運転車)のほうが人間の運転手よりも信頼できると考え、違うようにふるまって、その結果、無鉄砲な行動をとる。
　　――17　非情な殺し屋

　「コンピュータなんだから間違わないよね」、そう思っちゃうのだ。ところでそこのプログラマ、あなた、自分がプログラムした飛行機に乗る度胸あります？　私はあります。なぜって、私が作ったプログラムなら、そもそもエンジンすらかからないから。

　ってな冗談はさておき。そんなロボット同士の戦いになるとどうなるかってのは、既にシミュレートされてるよ、って意見が面白い。

オートメーション化された株取引は、オートメーションを軍が取り入れる場合の問題に関して“重要な比較”になると、(DARPA戦略テクノロジー部の部長ブラッドフォ－ド・)タウズリーは考えていた。
　　――13　ロボット対ロボット

　既に株や先物などの取引は、相当数をロボットが動かしている。そのため正のフィードバック・ループに陥って、前触れなく急騰したり暴落したりする。これと似たような状況が起きるんじゃないか、そういう発想だ。確かにあり得る。というか、アシモフが書いてたような気がする。

　そういう怖さはあるにせよ、規制が進むのか、というと…

NGOは、地雷やクラスター爆弾禁止の前例に沿って進むことを期待して禁止運動を進めているが、民間人への危害という懸念を理由に、兵器の予防的な禁止が成功した例はない。
　　――21　自律型兵器はどうしても必要なのか？

　と、なかなか見通しは暗い。そもそも「自律とは何か」って定義すらハッキリしないし。

　などの怖い話が多い中、SF者としては注目したくなるネタもアチコチに出てきて、これが楽しかった。例えば、先の自律の定義だ。なんとなく「知性」と関係ありそうな気がするが、同じ「知性の基準」とされるチューリング・テストも…

ＡＩ研究者マイカ・クラーク「知性のある異星の生命体があす地球に降り立ったとして、人間の行動を基準にしているチューリング・テストのようなのもに合格すると予想するのは、正しいだろうか？」
　　――15　“悪魔を呼び出す”

　おお、言われてみれば、確かにそうだよね。同じ知性を測る際に、異星人とコンピュータで基準が違うってのは、なんかおかしい。「じゃ異星人の知性はどうやって測るの？」と言われると、そっこはムニャムニャ。

　また、やっぱりシュワちゃんの印象は大きかったようで…

私の経験では、自律型兵器についての真剣な話し合いの10件に９件で、場所が国防総省の奥の院だろうと、国連の廊下だろうと、かならずだれかが(映画)『ターミネーター』を引き合いに出す。
　　――16　審理にかけられるロボット

　どうしてもそうなるかー。まあ、怖いのはT-800より、スカイネットなんだけど。つか続編じゃ敵(人間側)に乗っ取られてたよね。まあ自律兵器には、そういう危険もあるんです。

　などと、SF者には妄想が広がりすぎて止まらなくなる困った本だった。

【関連記事】

• 2010.10.05 P.W.シンガー「ロボット兵士の戦争」NHK出版 小林由香里訳
• 2016.12.11 リチャード・ウィッテル「無人暗殺機 ドローンの誕生」文藝春秋 赤根洋子訳
• 2020.7.21 デイヴィッド・パトリカラコス「140字の戦争 SNSが戦場を変えた」早川書房 江口泰子訳
• 2020.2.18 シャロン・ワインバーガー「DARPA秘史 世界を変えた『戦争の発明家たち』の光と闇」光文社 千葉敏生訳 1
• 2019.3.7 マーチン・ファン・クレフェルト「エア・パワーの時代」芙蓉書房出版 源田孝監訳
• 2018.8.30 アニー・ジェイコブセン「ペンタゴンの頭脳 世界を動かす軍事科学機関DARPA」太田出版 加藤万里子訳
• 書評一覧：軍事/外交