ディープフェイク (Deepfake) とは AI 技術を活用した画像合成技術です。実際、存在する人物の肖像や特定の身体部位を既存の画像または、ビデオに合成した編集映像を総称します。合成しようとする人物の顔が写っている高画質の動画をディープラーニングし、既存のビデオにフレーム単位で合成します。
韓国の場合、このようなディープフェイク映像を製作して配布すると、肖像権侵害または、パブリシティー権侵害になれます。さらに、ディープフェイクを活用したポルノの場合、性的暴力犯罪に関する特例法第14条２項に従って処罰されます。ディープフェイクに対する問題が社会的なイシューとして挙げられ始めてポルノハブ（Pornhub）のような大型ポルノ プラットホームはアップロードされた ディープフェイク エロ 動画を全て削除する措置を取りました。そのあと、制作されたディープフェイク映像を集めた専用のサイトが密かに作り出し始めました。
Kpop アイドルと日本の AV を合成した ディープフェイク エロ サイト
CIP Team はこのようなディープフェイク サイトを追跡してみました。なんと、ディープウェブ、ダークウェブではない誰でもアクセスできるサーフェイスウェブで相当な不法ディープフェイク サイトを見つけました。特に、Kpop アイドルの顔にポルノ動画を合成して運営するサイトが中心になって、この中でいくつかのサイトは韓国の IP からのアクセスをブロックしていました。
下のように分析された内容には CIP Team が追跡したディープフェイク サイトの実際のページ画面の一部が入ってあります。問題になりかねる深刻な画面はすべてマスキング処理を終えたことを予め報告します。
追跡したディープフェイク サイトの中で一つへアクセスすると、衝撃的な画面が浮かび上がりました。Kpop に興味がある方はよく知っている人気アイドルメンバーの肖像と日本の AV 女優の体が合成された動画が流出されています。ここのサイトだけで確認されたディープフェイク被害者は約 190 人に至っています。その中では Kpop 歌手だけではなく、有名な韓国の女優も含まれています。
このサイトのドメインは NameCheap というアメリカのホスティング会社から 2019年に購入されて、6ヶ月前の 2022年2月に更新された履歴も確認されました。ドメインの所有者名は隠れてあるが、該当ホスティング会社でこのドメインが不法的に使われている事実を通報できると思われます。
Domain name: ************.net
Registry Domain ID: 2361192048_DOMAIN_NET-VRSN
Registrar WHOIS Server: whois.namecheap.com
Registrar URL: http://www.namecheap.com
Updated Date: 2022-02-16T19:52:41.84Z
Creation Date: 2019-02-16T02:27:08.00Z
Registrar Registration Expiration Date: 2023-02-16T02:27:08.00Z
Registrar: NAMECHEAP INC
Registrar IANA ID: 1068
Registrar Abuse Contact Email:
Registrar Abuse Contact Phone: +1.9854014545
Reseller: NAMECHEAP INC
該当 ディープフェイク エロ サイトのサーバー IP アドレス情報は Criminal IP (https://www.criminalip.io/ja) から確認できます。IP アドレスの検索結果、該当サイトは OVH SAS というフランスのホスティング会社で起動されていることがわかりました。通報でしばらくドメインを閉鎖しても直ぐに別のドメインを生成し、またこのホスティング サーバーへ連結して運営できます。従って、完璧なサイトのシャットダウンのためには、該当ホスティング会社にサーバーの永久ブロックを要求しなければなりません。
Cloudflare の裏に隠れてある ディープフェイク エロ サイトの追跡
下のようにまた別のディープフェイク サイトの場合、先ほど扱った Kpop ディープフェイク ケースは IP アドレスが漏洩されていて即時に法的対応ができたのと違って、クラウドフレア（Cloudflare）を利用して本当の IP アドレスを隠れておいた状態でした。
[Criminal IP Youtube – クラウドフレアで隠されたディップフェイク サイトの実のサーバーを追跡]
以下の画面のように nslookup を行って該当ドメイン アドレスにマッピングされた IP アドレスを確認した結果、172.67.210.176、104.21.69.174 二つの IP アドレスが確認されました。両 IP アドレスはクラウドフレアのアドレスで、実際はサーバーが運営されません。クラウドフレアは DDoS などのサイバー攻撃を防御するために、サイトの先方でトラフィックを1次的にフィルタリングする役で、IP アドレスを隠れてくれる機能も提供します。防御の目的で利用される場合が多いが、不法的なサイトの IP アドレスも隠すことができるため、ここのディープフェイク サイトのように悪意的な目的で使われることもあります。ここのサイトの運営者も追跡を避けるために、クラウドフレアを通じて IP アドレスを隠しておいたように見えます。
下の画面はクラウドフレアの IP アドレスである 172.67.210.176 を Criminal IP で検索した結果です。IPアドレスの所有者が CLOUDFLARENET で、ホスティング IP も True で表記されています。また、注目するところは 連結ドメインが 245で、色んなドメインが同じクラウドフレアの IP アドレスを使っていることがわかります。
このように隠れた IP アドレスのリアル IP は Criminal IP のドメイン検索 (https://www.criminalip.io/ja/domain) から追えます。ドメイン検索の検索ボックスに問題のディープフェイク サイトのドメインを検索した結果の中で 実 IP 項目をみると、このディープフェイク サイトのリアル IP アドレスは 173.212.253.115 であることがわかります。この IP アドレスがディープフェイク サイト運営者の実際のサーバー IP アドレスです。
実 IP で確認された実際のディープフェイク サイトのサーバー IP アドレスを Criminal IP アセット検索 (https://www.criminalip.io/ja/asset) に検索してみると、IPアドレスの所有者は Contabo GmbH というドイツのミュンヘンに位置したホスティング会社で現在、SSH と FTP などのサーバーも一緒に起動されています。このディープフェイク エロ サイトの運営者はドイツのホスティング会社のサーバーからディープフェイク サイトを運営していることになります。実際のサーバー IP アドレスを追跡したため、ディープフェイク犯罪の捜査関係者はこのホスティング会社に連絡を取り、サーバーをシャットダウンさせ、必要な法的対応をとれるでしょう。
進化するディープフェイク技術と追いつけない追跡方法
CIP チームの分析結果、その他にもディープフェイク サイトは数え切れないぐらい多いです。どうしてこんなにも多い不法ディープフェイク サイトが続けて作られるのか。その原因の一つは簡便化された自動化システムのせいで予想されます。最も代表的な例として Deepfake Studioがあるが、合成対象の顔イメージと AV 女優の動画さえあれば、このアプリで誰でも簡単に ディープフェイク エロ 動画を制作できます。このようなディープフェイク合成を提供するサービスは益々増えています。
結局、このような犯罪動画が溢れる深刻な社会的問題の原因は技術が進化するスピードに比べて規制や行政的なプロセスが追いつけないためです。様々な自動化ツールが犯罪に使われ、不法サイトが増加しているうちに、それらを検知して追跡する方法は未だに手作業で進行しています。
CIP チームはディープフェイク サイトの明確な追跡と根本的な原因のブロックのために、多様な捜査機関へ提供する情報を集めており、収集された情報は CIP チームへお問い合わせいただくと、提供しております。
データの提供：Criminal IP（https://www.criminalip.io/ja）
ご参照：
