intech.media

世界のヘルスケアテクノロジーの最新トレンドを発信する情報サイト

intech.media

世界のヘルスケアテクノロジーの最新トレンドを発信する情報サイト

AIを使ったディープフェイクの検出方法 

CSOサイトによるとディープフェイクとは本物のように作られた偽の音声画像、動画のことをいいディープフェイク技術が進歩することにより深刻な社会問題になってきています。 

一方で、それらを検出するAI技術進歩も注目されており、ここではディープフェイクについて考えていきましょう。 

 

ディープフェイクとは 

ディープフェイクとは、2つの画像や動画の一部を交換させる技術を用いて話している言葉を意図的に変えたり、別人の顔に変えたりする技術のことをいいます。 

たとえば、カメラやスマートフォンアプリを使って顔のシミを除去したり、猫の耳をつけたり、手足を伸ばなど加工できます。こういった技術は問題ないように見えますが、現在利用されているディープフェイクの作成技術は、悪用されてしまうことが多いです。実際の音声や動画から、その人物の話し方や行動パターンなどの特徴データを抽出するディープラーニング技術をもとにディープフェイクが作成されます。 

CNBCは、ディープフェイクはディープラーニングという人工知能のひとつを用いた偽データであると説明しています。人物を入れ替え犯罪を行っているように見せる事や政治家が実際とは異なる内容を発言しているかのようにできてしまいます 

具体例としては、オバマ大統領偽の発言をしている、マーク・ザッカー・バーグ氏がFacebookのユーザーを掌握していることを自慢しているDeepFaceLab(ディープラーニングソフト)を使ってビル・ヘイダー氏が複数の俳優に変身しながら話している、などがあります。れらはほんの一部であり、ディープフェイク社会にとってどれだけ悪影響をもたらすかを示しています。 

ディープフェイク, AI, 人工知能, 犯罪阻止, ディープラーニング, フェイク動画

ディープフェイクはどんなことに利用されるのか 

ディープフェイク技術は、もともとハリウッド映画などの特殊効果の一つとして使用されフィルムや写真に違和感なく人物を追加するには、専門家でも数週間から数ヶ月かかっていました。現在では誰でも作成できるソフトウェアが提供されており、コンピューターとインターネット環境さえあれば簡単に作成することができるようになっています。ソフトウェアを利用すれば対象となるコンテンツの特徴データ抽出し、違和感なく自然に編集加工された新しいコンテンツを作成することができます。 

Text-based editing、動画内で話している内容を、テキストベースで修正することで、映像と音声同時に修正することが可能な技術です。残念ながらそういった技術は映画やエンターテインメントのためだけではなく、人や組織の為に悪用されるといったがあります。 

  • 政治的攻撃
    政治団体、偽の動画や音声を使って有権者に影響を与えるこ暴動行為を誘発すること 
  • ビジネス攻撃
    偽の動画や音声を使って、ビジネスリーダー(CEOや上司)を装い、員から機密情報の漏洩や不正送金を促す指示をおこなうこと 
  • 金融攻撃
    個人企業に、偽の動画や音声を使ってフィッシング攻撃や詐欺を行い、金融情報をとること 
  • 個人的な復讐
    顔を別人の体に重ね合わせた偽の動画や画像を使って、ベンジポルノなどとして利用されること 

 

AIはどのように見抜くことができるのか? 

フェイク動画の中でも、完成度が低い粗雑なものあれば見分けがつく場合もあります。例えば、瞬きをしていない、照明や影が消えている、口の動きと音声が合っていない等の不自然な箇所がサインになります。しかし、ほとんどの場合は人の目で見分けることが難しく、AIを利用した様々な方法ディープフェイクであると判断しています 

  • データセットの分析
    音声画像、文章データを解析し、様々な動画を比較・分析する初歩的な方法 
  • 音素と口形素の分析
    相互関係である「音素(意味の違いに関わる最小の音声的な単位)」と「口形素(言語を発する際の口の動き)」の情報から、音声と実際の口の動きが合っているかをAIで判別する方法。特に注目すべきポイントはB、M、Pの音素を発するときに、完全に口を閉じる必要があるという点で、高度な技術を使ったフェイク動画でも誤差が生じることが多い 

またディープフェイク技術より簡単に検出するために、先進技術を使って新しいソフトウェアの開発を進める企業が増えてきています 

  • Deeptrace
    アムステルダム発のスタートアップ企業で、さまざまなタイプの音声・映像媒体のバックグラウンドスキャンを行うツールを開発 
  • Truepic
    AIや暗号技術などの新技術を駆使してディープフェイクのような複雑な問題の解決に取り組 

 

ディープフェイク, AI, 人工知能, 犯罪阻止, ディープラーニング, フェイク動画

ディープフェイクを見抜く技術必要とする業界 

ディープフェイクによる問題が深刻化するにつれて、多くの大手企業や政府機関が対策を余儀なくされています。今後特に対策が必要とされる業界をここでは具体例とともに挙げていきます。 

  • 金融機関
    iproovによると、銀行での振込み時や、海外でよく利用されているプライベートバンキング(資産額が一定以上の富裕層を対象とする個人銀行) 取引詐欺行為のリスクが最も高いとされる 
  • 医療業界
    新型コロナウイルス時に、「漂白剤を飲むと殺菌ができる」という誤った家庭療法が広まったことにより、医療現場に負担をかけるなどの問題が生じ 
  • 教育機関
    Getting Smartは「今後は学生に対し、AIやディープフェイク技術に関する教育が必要である」と述べている 
  • 政府機関
    政治家が発言しているかのように見せるフェイク動画や音声は、民主主義にとって恐ろしい影響を与える可能性がある 
  • ソーシャルメディア
    FacebookやTwitterなどを含むSNSは、フェイクニュースやフェイク動画を拡散する最大の原因となっている 

将来的にはほとんどの業界や企業において、ディープフェイク見抜く技術の導入が必要になるかも知れません。 

 

この問題は解決できるのか 

ディープフェイクを作成するAI技術と、それを見抜くAI技術は、一方が進化すればもう一方も進化し、まさにAI対AIの競争になっています 

また私達自身も、何が本物で何が偽物なのかを正しく「見極める力」を持つことが 

重要になってきています。偽の情報が深刻な被害を与えることはもちろん、それと同様に、本物の情報であったものが、誤った判断で偽物だと広められることも被害となる場合があるからです 

今後、ディープフェイクに対し「見極める力を持つことで、金融機関やメディア、さらには政府などの安定につながっていくのではないでしょうか。 

#フェイク動画 #ディープフェイク #ディープフェイク技術 #AI #機械学習  #スマートシティ

Leave A Reply