ＡＩを使ったフェイク動画「ディープフェイクス」の問題に、２０２０年の米大統領選を控えた連邦議会が動き出している。
「酩酊状態」の民主党の下院議長、ナンシー・ペロシ氏や、「プライバシー支配」を語るフェイスブックＣＥＯのマーク・ザッカーバーグ氏などのフェイク動画が相次いで拡散したことで、改めて注目を集める「ディープフェイクス」。
下院情報特別委員会では、この問題をめぐる公聴会も開催した。
専門家からは、ソーシャルメディアの取り組み強化や、検知テクノロジー開発などを求める声が上がる。
ただ共和党はコンテンツの選別が保守派言論の排除につながる、と主張。
加速度的に進む「ディープフェイクス」の生成テクノロジー開発に加え、米国における政治分断が、この問題の大きなハードルであることを印象付けた。
●「嘘つきの分け前」
米下院情報特別委員会（アダム・シフ委員長：民主）の「ＡＩ、ねつ造メディア、”ディープフェイクス”の国家安全保障上の課題」と題した初めての公聴会が開かれたのは６月１３日午前。
公聴会に出席した専門家は４人だ。
メリーランド大学教授で「サイバースペースのヘイト犯罪」（未邦訳）の共著者、ダニエル・シトロン氏。ＡＩ研究のＮＰＯ「オープンＡＩ」のポリシー・ディレクター、ジャック・クラーク氏。バッファロー大学教授で国防高等研究計画局（ＤＡＲＰＡ）でフェイク動画・画像の検証プロジェクト「メディア・フォレンジクス」を率いたデビッド・ドアマン氏、そして米外交政策研究所（ＦＰＲＩ）の特別研究フェローで元ＦＢＩ特別捜査官のクリント・ワッツ氏だ。
from House Intelligence
シトロン氏の論点は、フェイスブックなどのプラットフォーム企業によるフェイク動画排除の取り組みの強化だ。
特に、ユーザー投稿コンテンツに対する、プラットフォーム企業の包括的な免責を定めた「通信品位法」２３０条の範囲が広すぎるために、「ディープフェイクス」の氾濫に対して、排除のインセンティブが働かなくなっていると指摘。現状の「無条件免責」ではなく、「適切な制御」の取り組みを免責の条件とすべきだ、と主張した。
シトロン氏はさらに、「ディープフェイクス」を放置することで、リアルな動画への信頼性も揺らぐことになる、と述べる。その結果、リアルな動画を根拠に疑惑を指摘された人物が、「フェイクニュースだ」とリアル動画を否定することができてしまう「嘘つきの分け前」と呼ぶ状況が起きている、という。
この「嘘つきの分け前」は、現実に起きている。
その一例が、トランプ氏がＮＢＣの番組「アクセス・ハリウッド」の収録現場で「スターならやらせてくれる。何でもできる」などと卑猥な発言をしていたテープが、２０１６年の大統領選の期間中に明らかになった問題だ。
トランプ氏は当初、このテープが本物であることを認めていたが、ニューヨーク・タイムズによれば、大統領当選後、上院議員や側近たちに、テープは本物ではない、と繰り返すようになっている、という。
「オープンＡＩ」のクラーク氏は、三つの層的な取り組みが必要だと述べる。
一つは「ディープフェイクス」の生成テクノロジーに対する、検知テクノロジーの追求などの、テクノロジーによる取り組み。
さらに、コンテンツの発信元情報などの”素性”を、スマートフォンなどの端末レベルやプラットフォームのレベルなどでラベリングするといった、制度的取り組み。
そして三つ目が、政策レベルを含む政治的な取り組みだ。
そして、元ＤＡＲＰＡのドアマン氏も、テクノロジーの対応に加えて、社会的な対応が必要と述べる。
動画の加工は、以前からハリウッドでは行われてきたが、テクノロジーの進展で、そのハードが急速に下がり、安価に自動で行うことが可能になった、と指摘。
ユーザーレベルで使えるフェイク動画の判定ツール、大規模に自動判定を行えるシステム、そしてソーシャルメディア企業への取り組み強化の要求、の３点を挙げる。
また、元ＦＢＩのワッツ氏は、「ディープフェイクス」の氾濫は、長期的には民主主義の棄損をもたらし、短期的には、暴動、暴力を誘発する危険がある、と述べる。
そして、公務員や議員などによる偽造コンテンツの作成、頒布を禁じる法律の制定や、政府とソーシャルメディア企業と連携してコンテンツについての説明責任の基準を策定すること、コンテンツのデジタル検証のための署名機能の開発、改変コンテンツへのラベリング、などを提案している
●大手掲示板から拡散
「ディープフェイクス」は２０１７年秋、米大手掲示板「レディット」から拡散したフェイク動画だ。
「ＧＡＮ（敵対的生成ネットワーク）」と呼ばれるＡＩのテクノロジーを使い、ポルノ動画の女優の顔を、ハリウッドの有名女優らに差し替えたフェイク動画が公開されていった。
そのユーザーのハンドル名が「ディープフェイクス」だった。現在は、ポルノ動画に限らず、幅広くフェイク動画一般を「ディープフェイクス」と呼ぶようになっている。
※参照：ＡＩ対ＡＩの行方：ＡＩで氾濫させるフェイクポルノは、ＡＩで排除できるのか（02/24/2018）
米国では中間選挙を控えた２０１８年春ごろから、「ディープフェイクス」の政治的な影響が懸念され、法規制の議論もわき起こっていた。
※参照：ＡＩによる”フェイクポルノ”は選挙に影響を及ぼすか？（06/30/2018）※参照：「フェイクＡＩ」が民主主義を脅かす―米有力議員たちが声を上げる（08/04/2018）
そんな中で、公聴会でシトロン氏やワッツ氏も取り上げた、「ディープフェイクス」をめぐる、深刻な被害や政治的な影響が指摘される事件が相次いで起こった。
●集団リンチや女性ジャーナリストへの攻撃
インドでは、この「ディープフェイクス」が実際に政治的な攻撃のツールとして使われた事例が明らかになった。
アユーブ氏になりすまし、「私はインドやインド人が大嫌い！」などとするフェイクツイートも流される中で、ついに４月下旬、アユーブ氏の顔画像を使った「ディープフェイクス」のフェイクポルノ動画が投稿される。
ツイッター、フェイスブック、インスタグラム、ワッツアップ。あらゆるソーシャルメディアで「ディープフェイクス」動画が拡散し、貞操観念の強いインド社会で、アユーブ氏への攻撃は苛烈を極めたという。
さらにアユーブ氏の電話番号や住所までがさらされ、レイプの脅迫が押し寄せる。
これに対して、国連の人権高等弁務官事務所が５月、人権擁護の専門家である特別報告者らの連名で、インド政府当局に対し、ネットのヘイト攻撃からアユーブ氏を保護するよう求める声明を発表。フェイクポルノ動画を「新たな脅威」と指摘した。
また、やはりインドで、改変された児童誘拐対策のための啓発動画が、「臓器売買目的の人さらいギャングが大量入国」とのデマとともにメッセージアプリ「ワッツアップ」を中心に拡散。パニックとなった住民たちによる集団リンチで、２０人以上が殺害されるという事態となった。
※参照：集団リンチ、ディープフェイクス―「武器化」するフェイクニュース（2/01/2018）
それ以外でも、２０１９年１月に中央アフリカのガボンで起きたクーデター未遂事件の発端も、「ディープフェイクス」だったと指摘されている。
ガボン政府は、病気療養で公に姿を見せていなかったボンゴ大統領の動画を公開。だが、まばたきの回数が極端に少ないなどの不自然さが目立った。
このため、これは「ディープフェイクス」で、大統領に職務遂行能力がないことの証拠だとして、軍部によるクーデターのきっかけとなった、と米マザージョーンズが報じている。
これらに加えて、２０２０年の次期大統領選を控えて改めて「ディープフェイクス」に注目を集めたのが、民主党の米下院議長、ペロシ氏の「酩酊スピーチ」と、フェイスブックのザッカーバーグ氏の「データ支配スピーチ」のフェイク動画が、相次いで公開されたことだ。
※参照：フェイスブックはザッカーバーグ氏のフェイク動画を削除できない（06/12/2019）
●進むテクノロジー、分断される政治
対策の必要性が叫ばれる中で、「ディープフェイクス」をめぐる新たなテクノロジーもまた、矢継ぎ早に発表されている。
スタンフォード大学などの研究チームは、下院公聴会の前週、動画の人物が話す言葉の内容を、ワープロソフトのように簡単に編集できるシステムを発表している。
また、ワシントン大学などの研究チームは５月、ＡＩによる自動生成のフェイクコンテンツ（ニューラル・フェイクニュース）を、９２％の精度で検知するＡＩシステム「グローバー」を発表した。
一方で、「ディープフェイクス」をめぐる政治状況は混とんとしている。
公聴会では、４人の専門家が一致して、「ディープフェイクス」の氾濫による危険性を指摘。議員からも、「インターネットは誰もが使える新たな兵器だ」（民主党・バル・デミングス氏）などの危機感が表明された。
ただ一方では、ソーシャルメディアによるフェイクコンテンツ排除の取り組みを、「保守派言論排除」と位置付ける発言もあった。
情報特別委員会の有力メンバーである共和党のデビン・ニューネス氏は、ソーシャルメディアがフェイクコンテンツ排除を行う今の基準（フィルター）が、「左派支持者によるもの」と表現。「排除されているのは大抵の場合、保守派であって、民主党ではない」と述べている。
これは、トランプ政権がフェイスブック、グーグル、ツイッターといったシリコンバレー企業のフェイクコンテンツ排除を、保守派言論の「表現の自由の侵害」として対決姿勢を強めているのと同じ流れにある。
「ディープフェイクス」の問題は、テクノロジーもさることながら、政治レイヤーの課題も、ハードルが高そうだ。
——–■最新刊『悪のＡＩ論 あなたはここまで支配されている』（朝日新書、２月１３日発売）
■フェイクニュースの本当の怖さとは？『信じてはいけない 民主主義を壊すフェイクニュースの正体』
■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』（拙訳）全文公開中