サミュエル・ウーリー「操作される現実 VR・合成音声・ディープフェイクが生む虚構のプロパガンダ」白揚社 小林啓倫訳

本書で私は(略)デジタルツールを使った最近の政治的な世論操作の例を紹介し、(略)これから何が起きるかを推測してみたい。また、どうすれば私たちが現状に対処し、デジタル空間を再生できるかについても概観する。
　　――１　曖昧な真実

「ディープフェイク動画に登場する人物のまばたきの頻度は、実際の人間に比べてかなり低いことがわかりました」
　　――５　フェイクビデオ　まだディープではない

私たちはマシンを操作できるようになるかもしれないし、マシンが人間を操作するようになるかもしれない。
　　――７　テクノロジーの人間らしさを保つ

【どんな本？】

　2016年の米大統領選では、それまでと違う新しい戦術が大きく使われた。フェイスブックなどのSNSによる選挙活動だ。各陣営が自分たちの候補者を売り込むだけならともかく、これにロシアが組織的に乱入している事が明らかになった。俗にロシアゲートとも呼ばれる事件である(→Wikipedia)。

　フェイスブックだけではない。ツイッターでは、2018年７月に当時現職のドナルド・トランプ大統領のフォロワーが20万人、バラク・オバマ元大統領のフォロワー240万人が一気に消えた(→朝日新聞)。いずれも俗に偽アカウントと呼ばれるもので、フォロワー数を水増ししていた事になる。

　かつてとは異なり、今やインターネットは私たちの暮らしに染み込んでいる。そして、それを悪用し、デマを振りまく者もいる。

　誰が悪用しているのか。その目的は何か。どんな手口を使うのか。どうすれば見破れるのか。フェイスブックやツイッターなどのプラットフォーム側は、どんな対策をしているのか。なぜ防げなかったのか。今後、手口はより狡猾になるのか。そして、防ぐためにはどうすればいいのか。

　ソーシャルメディアを研究する著者が、ソーシャルメディアの悪用の事例を紹介・分析し、その手口・影響・原因を探り、防ぐ手立てを提案する、一般向けの解説書。

【いつ出たの？分量は？読みやすい？】

　原書は The Reality Game : How the Next Wave of Technology Will Break the Truth, by Samuel Woolley, 2020。日本語版は2020年11月12日第一版第一刷発行。単行本ハードカバー縦一段組み本文約354頁に加え、訳者あとがき５頁。9.5ポイント36字×17行×354頁＝約216,648字、400字詰め原稿用紙で約542枚。文庫なら普通の厚さの一冊分。

　文章はこなれている。内容も特に難しくない。ツイッターやフェイスブックとは何か、ぐらいは知っていた方がいい。

【構成は？】

　いちおう頭から読む構成になっているが、気になった所だけを拾い読みしても充分に楽しめる。

クリックで詳細表示

• 謝辞
• はじめに
• １　曖昧な真実
  あなたの現実、私にはフェイク／テクノロジーと虚偽の新しい波／現実と真実への「攻撃」／テクノロジーの変化、社会の変化／プロパガンダからコンピューター・プロパガンダへ／未来のテクノロジーの役割

• ２　真実の破壊　過去・現在・未来
  事の起こり／デジタル偽情報はどこから来るのか？／コンピューター・プロパガンダの登場／人間の要素／アクセスの問題／過去　何が起きたのか／現在　何が変化しているのか／未来　何が起きるのか／メディアの崩壊

• ３　批判的思考から陰謀論へ
  バイラルな記事のつくり方／シリコンバレーから愛をこめて／オンライン・ユートピアからデジタル・ディストピアへ／あなたが読んだものがあなたをつくる／批判的思考から陰謀論へ／ソーシャルメディアはメッセージ／政策はどうなっているのか／メディア指向の解決策

• ４　人工知能　救いか破滅か？
  ザッカーバーグのマクガフィン／ボットからスマートマシンへ／ユーザーの問題？／単純なボット／AIボットの時代／AIを実現する技術／無視されるエシカルデザイン／AIプロパガンダの始まり／毒を以て毒を制す／ファクトチェックを越えて／頭の悪いAI／AIからフェイクビデオへ

• ５　フェイクビデオ　まだディープではない
  加工動画対ディープフェイク／ディープフェイク／まだ注目するには早い？／普通の動画も強力なプロパガンダ・ツールに／ユーチューブ問題／フェイクビデオの拡散を止める／ライブストリーミングの問題／動画からバーチャルリアリティーへ

• ６　XRメディア
  バーチャル・ウォー／XRメディアの世界／バーチャルの定義／ ARかVRか？／XRメディアと世論操作／社会的利益につながるVRの活用／スローXR／人間と人間に似たもの

• ７　テクノロジーの人間らしさを保つ
  @FuturePolitical／マシンか人間か／マシンとの関係構築／人間らしい音声を越えて／人間の声が持つ説得力／人間の顔をデジタルで生成する／マシンが親切に振る舞うようにする

• ８　結論　人権に基づいたテクノロジーの設計
  既存ソーシャルメディアの窮地／テクノロジーについての社会調査の価値／拡大する世界規模の問題／コインテルプロ／若者と未来のテクノロジー／倫理的なオペレーティングシステム／崩壊した現実を立て直す／民主主義を再構築する
• 訳者あとがき／参考文献／索引

【感想は？】

　この本を読んだ目的は、野次馬根性だ。

　誰が、何のために、どんな手口で、どんな事をやっているのか。それが知りたかった。あと、藤井太洋の元ネタが知りたかった、というのもある。

　残念ながら、「アンダーグラウンド・マーケット」に出てくるような、近未来を感じさせるハイテク手口は、あまし出てこない。手口はけっこう単純なのだ。

実際には、人工知能のような複雑なメカニズムは、これまでのところコンピューター・プロパガンダには大した役割を果たしていない。
　　――４　人工知能　救いか破滅か？

　ではどんな手口か、というと、力押しというか飽和攻撃というか。先のニュースにあるように、幽霊アカウントを山ほど作ってフォロワー数やリツイート数を水増したり、自動的に似たようなつぶやきを何度も投稿したり。そんなんでも、リツイート回数が多ければ、ツイッターは「トレンド」として目立つ所に表示するので、広告としての効果はある。

オンライン上では、人気のあるものは急速に拡散するのだ――それがたとえ、ボットを使ってつくられた幻想だったとしても。
　　――２　真実の破壊

　ここでは、暴き方の方が面白い。幽霊アカウントの特徴を見破ったのだ。プロフィールに写真がないか買ってきた写真だ。自己紹介もなく、フォロワーがほとんどいないか、幽霊アカウント同士でフォローし合ってる。そして投稿はタイマーで計ったように定期的。

　どうも会話が絡むテキスト・ベースだと、人間っぽく振る舞うのは難しいみたいだ、少なくとも今のところは。この辺は「機械より人間らしくなれるか？」が詳しい。今は人海戦術が中心だ。五毛党とかトロール工場(「140字の戦争」)とか。

プラガーフォースのメンバーには報酬は支払われないが、300万人に近い購読者を持つプラガー・ユニバーシティのフェイスブック・アカウント上でシェアされるという見返りが与えられる。
　　――３　批判的思考から陰謀論へ

　300万人の読者かあ。零細ブロガーとしちゃ、そりゃ心が動くなあ←をい　「ネット炎上の研究」にもあったけど、そういう手口を使い多人数に見せるのも、連中の常套手段。

　その「連中」とは誰か、ってのも、この本を読んだ目的。期待したとおり、やっぱり出てきましたロシア。出番は2016年の大統領選だ。

フェイスブック(略)におけるロシアの世論操作(略)の目的は人々を騙すこと、そして分裂を促し、人々を支配することだった。
　　――８　結論　人権に基づいたテクノロジーの設計

　これについては、具体例として１番打者にフィリピンのロドリゴ・ドゥルテ大統領のソーシャルメディア軍、２番に在トルコのサウジアラビア大使館で起きたジャマル・カショギ記者暗殺事件(→Wikipedia)を置くなど、インパクトはなかなか。

　「ヒトラー演説」や「ベルリン・オリンピック1936」にもあったけど、目端が利く政治家は広報に力を入れ、新しいメディアの使い方も巧みなんだな、困ったことに。

　そう、SNSは新しいメディアなのだ。ところが、肝心のメディア提供者であるフェイスブックやツイッターには、そういう認識がない。自分たちはサービスを提供しているだけだと思っていて、マスメディアだという自覚が欠けているのが、次第に伝わってくる。

　これはSNSだけではなく、政治家も同じ。だもんで、テレビ局や新聞社に対しては法で様々な規制をかけているのに対し、SNSは野放しだったりする。この問題への著者の提案の一つは、日本でも是非やってほしい。

広告枠の購入者は、特定の広告に誰が料金を支払ったかを明確に通知するなど、一定の基準を守らなければならない
　　――>８　結論　人権に基づいたテクノロジーの設計

　要は「誰が出した広告かハッキリさせろ」ですね。これでステルス・マーケティングが減れば嬉しいんだが。

　そんな「なんとかせいや」とする声に対し、フェイスブックのマーク・ザッカーバーグがAI技術に希望を託すあたりを、著者は激しく批判してる。

将来起こる問題のほとんどは、現在は解決策のように見える技術によって引き起こされる
　　――４　人工知能　救いか破滅か？

　…ああ、はい、そうですね。いやそうなんだけど、ザッカーバーグの気持ちも分かるんだよなあ。怪しげなアカウント凍結も、一応の成果を挙げてるし(→J-WAVE)。エンジニアってのは、つい技術での解決を考えちゃう生き物なんです。このあたりは、著者と技術者の溝の深さが実感できて、お互いの話し合いがもっと必要だなあ、と感じたところ。

　全般的に、具体例はそこそこ豊富にでているし、刺激的なエピソードも多い。とまれ、著者の姿勢は研究者やジャーナリストというより思想家・政治運動家に近く、リベラルな著者の考え方や提言が強く出ている。その辺は、好みが別れるかも。

　かつてインターネットが「便所の落書き」とか言われた頃を憶えているネット老人会の一人としては、インターネットの信頼性が上がったような気がして嬉しいような、そういう風潮に鍛えられて良かったかも、とか思ったりした本だった。

【関連記事】

• 2020.10.1 カール・シファキス「詐欺とペテンの大百科」青土社 鶴田文訳編
• 2019.6.9 セス・スティーヴンズ=ダヴィッドウィッツ「誰もが嘘をついている ビッグデータ分析が暴く人間のヤバい本性」光文社 酒井泰介訳
• 2019.5.16 ポール・ブルーム「反共感論 社会はいかに判断を誤るか」白揚社 高橋洋訳
• 2018.1.28 ジョン・ロンソン「ルポ ネットリンチで人生を壊された人たち」光文社新書 夏目大訳
• 2016.01.22 ローレンス･レッシグ「CODE Version 2.0」翔泳社 山形浩生訳 1
• 2012.07.30 ニコラス・ディフィンツォ「うわさとデマ 口コミの科学」講談社 江口康子訳
• 書評一覧：ノンフィクション

【今日の一曲】

行け！行け！川口浩 - 嘉門達夫

　フェイクで思い出すのは、やっぱりコレ。思えば大らかな時代だったなあ。