AIを使ったディープフェイクの検出方法 

CSOサイトによると、ディープフェイクとは本物のように作られた、偽の音声や画像、動画のことをいい、ディープフェイク技術が進歩することにより、深刻な社会問題になってきています。 

一方で、それらを検出するAI技術の進歩も注目されており、ここではディープフェイクについて考えていきましょう。 

ディープフェイクとは？ 

ディープフェイクとは、２つの画像や動画の一部を交換させる技術を用いて、話している言葉を意図的に変えたり、別人の顔に変えたりする技術のことをいいます。 

たとえば、カメラやスマートフォンのアプリを使って、顔のシミを除去したり、猫の耳をつけたり、手足を伸ばすなどの加工ができます。こういった技術は問題ないように見えますが、現在利用されているディープフェイクの作成技術は、悪用されてしまうことが多いです。実際の音声や動画から、その人物の話し方や行動パターンなどの特徴データを抽出するディープラーニング技術をもとに、ディープフェイクが作成されます。 

CNBCでは、ディープフェイクはディープラーニングという人工知能のひとつを用いた偽データであると説明しています。人物を入れ替え、犯罪を行っているように見せる事や、政治家が実際とは異なる内容を発言しているかのようにできてしまいます。 

具体例としては、オバマ前大統領が偽の発言をしている、マーク・ザッカー・バーグ氏がFacebookのユーザーを掌握していることを自慢している、DeepFaceLab（ディープラーニングソフト）を使ってビル・ヘイダー氏が複数の俳優に変身しながら話している、などがあります。これらはほんの一部であり、ディープフェイクが社会にとってどれだけ悪影響をもたらすかを示しています。 

ディープフェイクはどんなことに利用されるのか 

ディープフェイク技術は、もともとハリウッド映画などの特殊効果の一つとして使用され、フィルムや写真に違和感なく人物を追加するには、専門家でも数週間から数ヶ月かかっていました。現在では誰でも作成できるソフトウェアが提供されており、コンピューターとインターネット環境さえあれば、簡単に作成することができるようになっています。ソフトウェアを利用すれば、対象となるコンテンツの特徴データを抽出し、違和感なく自然に編集加工された新しいコンテンツを作成することができます。 

Text-based editingは、動画内で話している内容を、テキストベースで修正することで、映像と音声を同時に修正することが可能な技術です。残念ながらそういった技術は、映画やエンターテインメントのためだけではなく、人や組織の為に悪用されるといった例があります。 

• 政治的攻撃
  政治団体が、偽の動画や音声を使って有権者に影響を与えることや、暴動行為を誘発すること 
• ビジネス攻撃
  偽の動画や音声を使って、ビジネスリーダー(CEOや上司)を装い、社員から機密情報の漏洩や不正送金を促す指示をおこなうこと 
• 金融攻撃
  個人や企業に、偽の動画や音声を使ってフィッシング攻撃や詐欺を行い、金融情報を盗みとること 
• 個人的な復讐
  顔を別人の体に重ね合わせた偽の動画や画像を使って、リベンジポルノなどとして利用されること 

AIはどのように見抜くことができるのか？ 

フェイク動画の中でも、完成度が低い粗雑なものであれば、見分けがつく場合もあります。例えば、瞬きをしていない、照明や影が消えている、口の動きと音声が合っていない等の不自然な箇所がサインになります。しかし、ほとんどの場合は人の目で見分けることが難しく、AIを利用した様々な方法でディープフェイクであると判断しています。 

• データセットの分析
  音声や画像、文章データを解析し、様々な動画を比較・分析する初歩的な方法 
• 音素と口形素の分析
  相互関係である「音素(意味の違いに関わる最小の音声的な単位)」と「口形素(言語を発する際の口の動き)」の情報から、音声と実際の口の動きが合っているかをAIで判別する方法。特に注目すべきポイントはB、M、Pの音素を発するときに、完全に口を閉じる必要があるという点で、高度な技術を使ったフェイク動画でも誤差が生じることが多い 

また、ディープフェイク技術をより簡単に検出するために、先進技術を使って新しいソフトウェアの開発を進める企業が増えてきています。 

• Deeptrace社
  アムステルダム発のスタートアップ企業で、さまざまなタイプの音声・映像媒体のバックグラウンドスキャンを行うツールを開発 
• Truepic社
  AIや暗号技術などの新技術を駆使して、ディープフェイクのような複雑な問題の解決に取り組む 

ディープフェイクを見抜く技術を必要とする業界 

ディープフェイクによる問題が深刻化するにつれて、多くの大手企業や政府機関が対策を余儀なくされています。今後特に対策が必要とされる業界をここでは具体例とともに挙げていきます。 

• 金融機関
  iproov社によると、銀行での振込み時や、海外でよく利用されているプライベートバンキング(資産額が一定以上の富裕層を対象とする個人銀行) の取引時は、詐欺行為のリスクが最も高いとされる 
• 医療業界
  新型コロナウイルス時に、「漂白剤を飲むと殺菌ができる」という誤った家庭療法が広まったことにより、医療現場に負担をかけるなどの問題が生じる 
• 教育機関
  Getting Smart社は「今後は学生に対し、AIやディープフェイク技術に関する教育が必要である」と述べている 
• 政府機関
  政治家が発言しているかのように見せるフェイク動画や音声は、民主主義にとって恐ろしい影響を与える可能性がある 
• ソーシャルメディア
  FacebookやTwitterなどを含むSNSは、フェイクニュースやフェイク動画を拡散する最大の原因となっている 

将来的にはほとんどの業界や企業において、ディープフェイクを見抜く技術の導入が必要になるのかも知れません。 

この問題は解決できるのか？ 

ディープフェイクを作成するAI技術と、それを見抜くAI技術は、一方が進化すればもう一方も進化し、まさにAI対AIの競争になっています。 

また私達自身も、何が本物で何が偽物なのかを正しく「見極める力」を持つことが、 

重要になってきています。偽の情報が深刻な被害を与えることはもちろん、それと同様に、本物の情報であったものが、誤った判断で偽物だと広められることも被害となる場合があるからです。 

今後、ディープフェイクに対し「見極める力」を持つことで、金融機関やメディア、さらには政府などの安定につながっていくのではないでしょうか。