最終更新日：2024-08-18
ディープフェイクとは？問題点・課題・ビジネス利用方法、使われるAI技術徹底解説！
新しい動画や画像を生成するAI（人工知能）が注目を集めています。その中でも「ディープフェイク」という言葉を最近よく耳にするようになった方もいらっしゃるのではないでしょうか。
多くの人にとって、ディープフェイクは怪しい、怖いと言ったネガティブなイメージが強いようです。もちろん多くの深刻な問題点を抱えており、悪用されれば世界中の多くの人に悪影響を与えています。しかし、実はあらゆる活用の可能性が期待されている技術です。有効に活用すればビジネスの大きなチャンスにつながることが期待されています。
本記事では、
AI Marketでは、
目次
ディープフェイクとは？
ディープフェイク（deepfake）とは、生成AIを活用し、画像や動画、音声などの一部を結合させて、元とは異なるデータを作成する技術です。AIのなかでも、ディープラーニング（深層学習）という技術を使用します。ディープフェイクは、ディープラーニングと、フェイク（偽物）を組み合わせた造語です。
生成AIは「サンプルのデータから成果物のデジタル表現を学習し、独創的で現実的な新しい成果物を生成するAI」のことを指します。その中でも、本物とは見分けがつかない成果物がディープフェイクです。
生成AI（ジェネレーティブAI）とは何か詳しく説明していますので併せてご覧ください。
なぜディープフェイクは危険？
ディープフェイクのAI技術は、幅広い分野での応用が期待されています。一方で、社会や経済に甚大な被害を及ぼしかねない危険性も持っています。現在のディープフェイクは、程度の低いフェイク動画や悪意を持って作られた偽動画が多いのが現状です。現実の動画、音声、画像に一部を加工し偽の情報を組み込んで、本物であるかのように見せかけて相手をだます動画です。
ディープフェイクは独創的な動画や画像、音声を簡単に作成できるため、ビジネスへの活用も大いに期待されています。
ディープフェイクに用いられている技術は？
まずは、ディープフェイクに関する技術的側面を見ていきましょう。ディープフェイクの生成や偽造判定に使われているAIの重要技術や悪用対策に期待されている先端技術を解説します。
GAN（敵対的生成ネットワーク）
ディープフェイクの動画は、ディープラーニングの一つの技術である「GAN（Generative Adversarial Networks）」を用いて作られるものが多くなっています。GANは日本語訳では「敵対的生成ネットワーク」と呼ばれます。
GANは、生成ネットワークと識別ネットワークを競い合わせることで、高精度な画像や映像の生成を可能とします。生成ネットワークが作り出した画像や映像を、識別ネットワークが厳しく判定することでよりリアルなデータを生成するように訓練されます。そして、識別モデルは生成されたデータを見分ける能力が向上していきます。対抗しあう2つのシステムによって、本物に非常に似たデータを生成するのがGANの特徴です。
GANの詳しい仕組み、活用事例をこちらの記事で詳しく説明していますので併せてご覧ください。
敵対的逆強化学習
強化学習にGANの特徴を組み合わせたのが「敵対的逆強化学習」です。強化学習は、コンピューターエージェントが環境を観察し、報酬を最大化するために学習します。強化学習は試行錯誤しながら報酬が最も多く得られる行動をシステム自身が学習するのが特徴です。
強化学習の仕組み、混同しやすい機械学習との違い、活用事例についてこちらの記事で解説していますので併せてご覧ください。
敵対的逆強化学習は、2つのエージェントが自分の報酬を最大化するよう相手に対抗して行動するように学習します。より複雑な環境での行動が学習できます。
ディープフェイクの悪用対策に期待されるブロックチェーン
ディープフェイクの悪用への対策として注目されているのが「ブロックチェーン」です。ブロックチェーンは、暗号資産（仮想通貨）に用いられる技術としてよく知られていますが利用法は多岐にわたっています。
ブロックチェーンでは、データ履歴を管理し、トランザクションと呼ばれる取引データが発生すると、ブロックという単位で格納されます。膨大な計算によって生成された「ハッシュ値」によって次のブロックへとつながり、一部のデータを変更するとハッシュ値の違いによってブロックがつながりません。そのため、データを改ざんできなくなる仕組みです。
このブロックチェーンの性質を動画データの改ざんにも活用できると期待されています。すでに存在する動画からディープフェイク動画を作成しようとした時、ハッシュ値が置き換わるため、動画に何か変更を加えたことがわかるからです。
ディープフェイクの偽動画を検出するAI
東京大学ではAIによるディープフェイクの検出方法を開発しました。同一の顔写真の色や周波数成分、画像サイズをわずかに変更した2枚の画像を作成し、ブレンドします。そのようにして生成した疑似フェイク画像「Self-Blended Images （SBIs）」を用いて訓練されたディープフェイク検出AIです。
ディープフェイクの偽動画への対策にもAIを活用する方法が期待されています。ディープフェイクの作成にもAIが用いられますが、それとは別のAIであり、動画が偽物であるかどうかを検出するためのものです。動画の偽造と検知の技術はイタチごっこの状態であり、人間の目だけでは真偽を見分けることが難しくなっています。さまざまな検知手法を活用し、企業や社会全体で利用しやすくすることが重要となるでしょう。
ディープフェイクのビジネスへの活用例6選
ディープフェイクをビジネスでポジティブに活用した事例を紹介します。有効利用することで、幅広い領域のビジネスに活用できるでしょう。
- AIアナウンサーにより自動でニュースを読み上げ
- リアルだが著作権フリーのAIモデル作成
- ディープフェイクで再現した音声の二次創作への活用
- リアルな合成で映画の吹き替えを多言語化
- 合成映像のアバターをプレゼンや研修ビデオに活用
- 実在人物とうり二つのCGモデルの活用
それぞれの事例について説明します。
AIアナウンサーにより自動でニュースを読み上げ
中国の国営放送局である新華通訊社は、テキスト原稿を与えれば、アナウンサーが本当に原稿を読み上げているようなリアリティの高い動画を自動生成するシステムを開発しました。
突然のニュースに対してその場にアナウンサーがいなくても放送できたり、危険な現場へ行かなくてもよくなったり、24時間ニュース制作を可能とする体制を整えられたということです。
リップリーディングと呼ばれる人の口元の動きから発話内容を予測する画像認識技術を応用し、合成動画の口元を再現可能としています。
多言語化にも対応可能ということです。
リアルだが権利フリーのAIモデル作成
ディープフェイク技術は、オリジナルの著作権・肖像権フリーの素材を簡単に作成できます。二つとして同じものがないように生成でき、自動生成されたとは思えない高いクオリティの人物モデルの画像を生成可能です。
理想としている顔のパーツを持つモデルが存在しない場合でも、ディープフェイクによって思い通りに作成可能です。著作権フリーであれば、使用時に著作権・肖像権などの侵害を気にせず利用できるため、幅広い用途での活用が見込めます。
ディープフェイクで再現した音声の二次創作への活用
音声のディープフェイクを活用した、音声の二次創作としての活用に注目が集まっています。二次創作は、既存の作品をもとに、新たな作品を創作することを指します。
例えば、自分の音声データをデジタル販売しているアーティストがいます。自身の声を生成して、誰でも作品が作れるツールを公開し、制作された作品が認められれば、制作者が半分の収益を受けることが可能です。狙いとして、アーティストの権利を守る可能性を示すとともに、ディープフェイクを含めたジェネレーティブAIの台頭への警告があるということです。
リアルな合成で映画の吹き替えを多言語化
ディープフェイク技術によって、映画の吹き替えがより自然となります。俳優が、まるで吹き替え音声と同じ言語を話しているかのように見えることが可能になっています。
従来の映画の吹き替えは、映像はそのままで音声のみ多言語化していました。話されている言語と唇の動きが合わないため、不自然に見えてしまいます。これをあたかも演じている俳優が、同じ言語を話しているように映像を作り出すことを可能としました。
口の動きを話された言葉と一致するようディープフェイクの技術を使って、声を複製したり映像を変えたりを実現できます。これにより、世界中の多くの人へクリエイティブ作品を発信できるようになるでしょう。エンターテインメントの多様性を向上させることが可能となります。
合成映像のアバターをプレゼンや研修ビデオに活用
ディープフェイクで生成した映像のアバターをメールに登場させたり、プレゼンを充実させる機能があります。英国のスタートアップであるSynthesia社が提供しているディープフェイクに関する技術で、大手会計事務所のEY（アーンスト・アンド・ヤング）社が採用しました。内蔵された翻訳機能を使い、日本のクライアントに向けてAIアバターが日本語で話すプレゼン動画を見せて効果があったということです。
国内最大手広告代理店博報堂プロダクツも、Synthesia社と共同で新たな動画生成サービスの提供をおこなっています。再現したい人物が原稿を読み上げる映像を1時間程度収録すれば、AIが学習してアバターを作成可能です。このアバターを使えば、後は文章を入力するだけで、本人そっくりの分身が話している動画を短時間で生成可能です。約50の国の多言語に対応し、表情や唇の動きも再現できます。
実在人物とうり二つのCGモデルの活用
実在の人物のデータからデジタルのアバター（分身）を作成して、タレントやモデルの代役を務めたり、販売員の業務の肩代わりさせるビジネスが進み始めています。デジタルコンテンツを低価格ですぐに作れるので、さまざまな可能性が期待されています。
株式会社サイバーエージェントでは、モデルやタレントなど著名人のデジタルの分身であるデジタルツインのアバターを作り、広告やデジタルコンテンツへの活用を進めています。有名女性モデルを起用し、表情や声を高精度で再現したアバターを作成しました。
不動産事業を手掛ける三菱地所レジデンス株式会社が、モデル本人ではなくデジタルツインと広告契約を直接締結しキャスティングされました。
AI Marketでは、
ディープフェイクの課題
ディープフェイクがビジネスのメインストリームに広く活用されるにあたって直面する課題を見ていきましょう。
詐欺、ソーシャルエンジニアリング
音声のディープフェイクが実際に詐欺に使用され、実在する大企業のCEOを名乗る者が金銭を騙し取る事件が発生しました。ディープフェイクの悪用の脅威は、人間の心理や行動の隙をついた「ソーシャルエンジニアリング」に含まれます。ソーシャルエンジニアリングとは、システムに侵入するために必要となるIDやパスワードなどの情報を、他者を心理的に操ることで盗み出す方法です。
その他にもさまざまな詐欺の手法として悪用される可能性があります。ディープフェイクによって声や外見をまねることが容易となり、なりすましの詐欺が格段に高度化しています。
関連記事：「顔認証システムとは？どんな仕組み？導入手順・注意点・ディープフェイク対策を徹底解説！」
フェイクポルノ
2017年にハリウッドスターの顔を入れ替えて合成されたポルノ動画がインターネット上に出回り、ディープフェイクの悪用の概念が広く一般に知られるきっかけとなりました。
ディープフェイクの悪用事例として、最初に大きく問題視されたのがポルノ動画のディープフェイクでした。これらは「フェイクポルノ」と呼ばれ、人物の顔を別の人物に入れ替え、本人の同意がない動画が多数インターネット上で公開されてしまいました。
政治家など著名人物のなりすまし
大物政治家になりすましたディープフェイク動画で、政敵や他国の政府を中傷するプロパガンダとして悪用されたこともあります。ディープフェイク悪用の最大の懸念は、影響力の大きい政治家や著名人を利用して大勢の人々を悪意を持ってだますことでしょう。
有権者にも大きな影響を与える可能性があります。偽物の動画を本物と信じた人たちの投票行動を左右する恐れもあり、悪影響や社会的困難にもつながりかねません。
ディープフェイクについてよくある質問まとめ
- ディープフェイクとは？
ディープフェイク（deepfake）とは、生成AIを活用し、画像や動画、音声などの一部を結合させて、元とは異なるデータを作成する技術です。AIのなかでも、ディープラーニング（深層学習）という技術を使用します。ディープフェイクは、ディープラーニングと、フェイク（偽物）を組み合わせた造語です。
まとめ
ディープフェイクが与える影響は大きいために、有効利用と悪用どちらにおいても非常に強力なツールとなっています。悪用ばかりが注目されがちですが、ビジネスへの活用も今後ますます広がっていくでしょう。特に、海外マーケットを狙うサービスや商品を持つ企業、海外に拠点を持っている企業は多言語吹き替えやAIアバターは魅力的な技術でしょう。また、AIアバター作成や音声データ採集のためだけの短時間の拘束で済むのであれば、有名芸能人やタレントを活用した販促活動もより容易になるかもしれません。
自社でもディープフェイクを活用してビジネスで活用したいとお考えかもしれません。しかし、AIを導入するためにはどのような業者やパートナーと組むのがいいのかわからないという方も多いのではないでしょうか。
AIの専門用語、システム要件はわからないし、見積もりの内容チェック方法もわからない方がほとんどではないかと思います。
AI Marketでは、
AI Marketの編集部です。AI Market編集部は、AI Marketへ寄せられた累計1,000件を超える開発相談経験を活かし、AI（人工知能）に関する技術や、製品・サービスなどの紹介記事を提供しています。ご興味をお持ちの製品やサービスがありましたら、ぜひご相談ください。
お電話で無料相談
WEBで無料相談
お問い合わせフォームへ