中国の新疆ウイグル自治区で2016年から18年にかけて大型収容施設の建築が進んだことを示す衛星写真は、100万人を超えるイスラム教徒に対する中国政府の弾圧の決定的な証拠として、国際的な非難と制裁強化のきっかけとなった。このほか、イランの核施設や北朝鮮のミサイル基地の航空写真なども、世界情勢に同じように影響を及ぼしている。
ところが、人工知能（AI）を駆使した画像操作ツールの登場によって、もはやこの種の画像を額面通りに受けとることは難しくなっている。ワシントン大学助教授の趙博（ジャオ・ボウ）は21年4月にオンラインで公開した論文で、いわゆるディープフェイク画像の作成に使われるようなAI技術を用いて、いくつかの都市の衛星写真を改ざんした結果を披露したのだ。
ジャオの研究チームがつくった画像では、シアトルと北京のそれぞれ特徴的な部分が入れ替わっている。シアトルの何もない場所にビル群が出現し、北京の街並みからは建物の代わりに緑地がはめ込まれているのだ。
ニューラルネットワークを地図加工に応用
ジャオが衛星写真の加工に利用したのは、「CycleGAN」と呼ばれるアルゴリズムだ。カリフォルニア大学バークレー校の研究グループが開発したこのアルゴリズムは、多種多様な加工画像の作成に広く用いられている。
CycleGANは、絵画の描法や特定のタイプの地図上の事物など、対象となる画像の主な特徴を認識できるよう人工ニューラルネットワークに学習させる。画像に手が加えられるたびに別のアルゴリズムを使って改ざんされた箇所を検出する作業を繰り返すことで、CycleGANの精度は徐々に上がっていく。
誰かの恥ずべき場面を撮影したかのようにつくられたディープフェイク動画と同じように、こうした画像は各国の政府を誤った方向に導くこともあれば、ソーシャルメディアで拡散されてしまうこともある。結果的にデマが飛び交い、本物の視覚情報までが疑いの目で見られることになるのだ。
「実に深刻な問題だと思います。一般市民の明日の暮らしには影響しないかもしれませんが、こうした技術は表に出ないかたちで今後10年でさらに大きな役割を演じるようになるはずです」と、カナダのマギル大学で空間データ科学を研究する助教授のグラント・マッケンジーは指摘する。彼はワシントン大学のジャオらの研究には関与していない。
「どこかの州政府が、あるいはほかの何者かが、さまざまな画像を本物そっくりに加工し、あるものをないように見せたり、配置を変えたりできる世界を想像してみてください」と、マッケンジーは言う。「どうすれば阻止できるのか、いまのところ見当もつきません」
拡散される偽の衛星写真の脅威
ソーシャルメディア上には、雑な加工を施された衛星写真がすでにいくつか出回っている。ヒンドゥー教の祭りである「ディワリ」の期間中に、インド全土が明るく照らされていたとする写真もそのひとつだ。この写真は人の手で加工されたことがひと目でわかる画像だった。これよりはるかに精巧なディープフェイクの衛星写真がつくられ、例えば兵器施設を隠蔽したり、軍事行動を故意に正当化したりといった目的に使われ始めるのも時間の問題かもしれない。
ハーヴァード大学ケネディスクールのショーレンスタイン・センターでメディア操作を専門に研究するガブリエル・リムは、AIを使わずとも地図を利用して人々を惑わせることは可能だと語る。その例として彼女が挙げるのは、21年1月6日に米連邦議事堂が襲撃された際に、現場にいたと主張していたアレクサンドリア・オカシオ＝コルテス議員が実際にはそこにいなかったことを示唆するマップ画像がネットで拡散された一件だ。
さらにリムは、領有権を巡り係争中の南シナ海の一部地域が、中国のパスポートに印刷された地図では自国の領土として描かれていたことも指摘する。「高度な技術を使わなくても、これと似たような目的を果たすことはできるのです」と、リムは言う。
一方で、加工された航空写真が商業目的に活用されることもある。電子地図の作成、気象観測、投資判断などに、こうした画像が大きく貢献する場合があるのだ。
米国の情報機関は、加工された衛星写真のもたらす脅威が増大しつつあることを認めている。「悪意をもつ何者かが、デマの拡散や情報操作によってわれわれの世界観に影響を及ぼそうとするかもしれません」と、米国防総省の付属機関で地理空間情報の収集と分析、伝達を監視する米国家地理空間情報局（NGA）の広報担当者は語っている。
NGAの担当者は、偽造された画像の特定には犯罪科学の分析手法が役立つはずだとしながらも、自動作成されたフェイク画像の急増により新たな対応策が必要になる可能性を認めている。何らかのソフトウェアを使って、画像の加工やファイル内のデータ改ざんといった明確な情報操作の証拠を見つけることはできるかもしれない。しかし、そうした証拠を消す方法をも学習してしまうAIのせいで、フェイク画像をつくる者と見破る者との間で“いたちごっこ”が続いているのが現状だ。
「情報ソースを知り、検証したうえで信頼することの重要性は高まる一方です。その実現には、テクノロジーが大きな役割を果たしています」と、NGAの広報担当者は語る。
偽画像の自動識別は可能になるか
AIを使って加工された画像を見破る技術は、いまや産学官の主要な研究分野のひとつになっている。フェイスブックをはじめ、偽情報の拡散を危惧する大手テック企業は、ディープフェイク動画の識別を自動化する取り組みを支援している。
ワシントン大学のジャオは、偽の衛星写真を自動識別する方法を開発したいと考えている。時間の経過によって景観がどう変化するのか観察することで、疑わしい部分に気づけるようになるかもしれないのだと彼は言う。「時間と空間の相互的なパターンを掴むことが、非常に重要になるはずです」
ただし、政府がこうしたフェイク画像を見抜く技術を備えていたとしても、一般の人々が不意打ちを食らうことはありうるとジャオは指摘する。「1枚の衛星写真がソーシャルメディアで広く拡散されれば、それが何らかの問題を引き起こす可能性は常にあるのです」
※『WIRED』によるディープフェイクの関連記事はこちら。人工知能（AI）の関連記事はこちら。
TEXT BY WILL KNIGHT
TRANSLATION BY MITSUKO SAEKI