タイムズ紙は3月、包囲下での生活を説明するために「ルバ・ドフジェンコ」という名前の18歳のウクライナ人女性のプロフィールを掲載した 。記事によれば、彼女はジャーナリズムを学び、「下手な英語」を話し、ロシア侵攻後に武器を持ち始めたという。
しかし問題は、ドベンコは現実には存在しないということであり、この物語は出版後すぐに削除された。
ルバ・ドフェンコは、ツイッター上で高まるウクライナとロシアの戦争ネタへの関心を利用し、多くのフォロワーを獲得するために作られた偽のオンライン人物だった。このアカウントは3月まで一度もツイートしなかっただけでなく、ユーザー名も異なっており、タイムズの注目を集めた可能性のあるツイートしていた最新情報は、他の本物のプロフィールから盗用されていた。しかし、彼女の詐欺の最も恐ろしい証拠は、まさに彼女の顔にありました。
ドヴェンコさんのプロフィール写真では、髪の毛の一部が頭の残りの部分から剥がれており、まつげが数本欠けており、そして最も重要なことに、彼女の目は驚くほど中央に位置していました。それらはすべて、AI アルゴリズムによって作り出された人工の顔の明らかな兆候でした。
ドベンコの顔は、 背後にある技術によって捏造された。ディープフェイクは、誰でもビデオ内で他人の顔を重ね合わせることができる、ますます主流になっている技術であり、リベンジポルノから世界指導者の演説操作に至るまで、あらゆる用途に利用されている。そして、そのようなアルゴリズムに実際の人物の何百万枚もの写真を供給することによって、それらを再利用して、ドベンコのような本物のような顔を何もないところから作成することができます。これは拡大する問題であり、誤った情報との戦いをさらに困難にしています。
AI が生成した偽の顔の軍隊
ここ数年、ソーシャル ネットワークが顔の見えない匿名の荒らし行為を取り締まる中、AI は悪意のある行為者やボットに貴重な武器、つまり驚くほど本物に見える能力を備えさせてきました。以前とは異なり、荒らしが単にインターネットから素顔を剥ぎ取り、プロフィール写真を反転表示することで誰でもマスクを解除できましたが、AI で生成された写真は新鮮でユニークであるため、誰かが同じことを行うことは事実上不可能です。そして、詳しく調べても、ほとんどの人には違いがわかりません。
英国ランカスター大学の心理学教授ソフィー・ナイチンゲール博士は、AIが合成した顔を人々が見分ける確率はわずか50％で、多くの人が本物の顔よりも信頼できるとさえ考えていることを発見した。 「Photoshop や CGI の専門知識がなくても、誰でも合成コンテンツに」アクセスできる手段は、「以前の技術に比べて、悪用に対するはるかに大きな脅威を生み出します」と彼女は Digital Trends に語った。
フロリダ大学のサイバーセキュリティ研究者ヤシン・メクダド氏によると、これらの顔が非常に捉えどころがなく、非常に現実的である理由は、AI が生成した画像を検出するモデルの精度が 95.2% であるため、そのプログラミング (敵対的生成ネットワークとして知られる) が次のようなものを使用しているためです。画像を改善するために互いに作用する 2 つの対立するニューラル ネットワーク。 1 つ (G、ジェネレータ) は偽の画像を生成し、もう 1 つを誤解させる任務を負い、2 つ目 (D、識別子) は最初の画像の結果と本物の顔を見分ける方法を学びます。この 2 つの間の「ゼロサム ゲーム」により、ジェネレーターは「区別できない画像」を生成できます。
そして、AI によって生成された顔は、実際に猛烈なペースでインターネットを席巻しています。合成ペルソナを使用してフォロワーを獲得する Dovhenko のようなアカウントとは別に、このテクノロジーは最近、さらに憂慮すべきキャンペーンを推進しています。
2020年にGoogleが、同社のアルゴリズムの偏りを強調する論文を発表したとしてAI倫理研究者のティムニット・ゲブルー氏を解雇したとき、GoogleのAI研究部門で働いていたと主張する AIが生成した顔をしたボットのネットワークが 世界中に出現した。ソーシャルネットワークを利用し、ゲブルに有利な発言をする人を待ち伏せした。 中国 などの国による同様の活動が、政府の言説を促進していることが確認されています。
ツイッターのざっとしたレビューでは、 反ワクチン主義者 や 親ロシア人 など数名を見つけるのにそれほど時間はかからなかった。彼らは皆、コンピューターで生成された顔の後ろに隠れて、自らの目的を押し広げ、邪魔をする者を攻撃しようとしている。 Twitter と 定期的にこのようなボットネットを削除していますが、たとえ前者の誤解を招く、欺瞞的な ID ポリシーが「誤解を招いたり、混乱させたり、誤解を与えたりする目的で個人、グループ、または組織になりすますことを禁止しているにもかかわらず、合成顔を使った個々の荒らしに対処する枠組みを持っていません。」他人を欺いたり、他人の体験を混乱させるような方法で偽の身分を使用したりしないでください。」これが、私が遭遇したプロフィールを報告したときに、ポリシーに違反していないと報告された理由です。
AI ベースの詐欺ソリューション会社である Sensity は、人気のあるソーシャル ネットワークの利用者の約 0.2% ～ 0.7% がコンピューターで作成した写真を使用していると推定しています。これ自体は大したことではないように思えますが、Facebook (ユーザー 29 億人)、インスタグラム (ユーザー 14 億人)、Twitter (ユーザー 3 億人) にとって、これは偽情報キャンペーンに潜在的に関与する可能性のある数百万のボットや攻撃者を意味します。 。
V7 Labs による AI 生成の顔検出器 Chrome 拡張機能 の一致率は、Sensity の数値を裏付けました。同社のCEO、アルベルト・リッツォーリ氏は、人々がアップロードする写真の平均1％が偽物としてマークされていると主張している。
偽の顔のマーケットプレイス
AI によって生成された写真がこれほど急速に普及した理由の 1 つは、写真を簡単に入手できることです。 Generated Photos のようなプラットフォームでは、誰でも数ドルで何十万もの高解像度の偽の顔を入手できます。また、個人的な中傷キャンペーンなどの 1 回限りの目的でいくつか必要な場合は、 thispersondoesnotexist などの Web サイトからダウンロードできます。 .com を リロードするたびに新しい合成顔を自動生成します。
これらの Web サイトは、英国の情報回復センターの調査ディレクター、ベンジャミン ストリック氏のような人々にとって特に困難な状況にあります。同氏のチームはオンラインの欺瞞コンテンツの追跡と分析に毎日何時間も費やしています。
「（thisstartupdoesnotexist.com を通じて）偽のスタートアップで働いて、（自動生成テクノロジーを）偽の顔のプロフィールのパッケージに組み込むと、ソーシャル エンジニアリングのレシピと、非常に欺瞞的なものの基礎が生まれる」とストリック氏はデジタル トレンドに語った。数分以内にセットアップできるプラクティスです。」
ただし、Generated Photos の創設者である Ivan Braun は、すべてが悪いわけではないと主張します。同氏は、GAN 写真には、Google マップのストリートビューでの顔を匿名化したり、ゲームでの仮想世界をシミュレートしたりするなど、多くの前向きな使用例があり、それがプラットフォームが促進しているものだと主張する。ブラウン氏は、誰かが人々を誤解させる仕事をしている場合、自社のプラットフォームの不正行為防止機能が有害な活動を検出できるようになり、最終的にはソーシャルネットワークが本物の写真から生成された写真を除外できるようになるだろうと述べている。
しかし、AI ベースの生成技術を規制するのも難しい。なぜなら、AI ベースの生成技術は、Snapchat の最新フィルターや Zoom のスマート ライティング機能など、数え切れないほどの貴重なサービスにも影響を与えているからである。 Sensity CEO のジョルジオ・パトリーニ氏は、AI によって生成された顔の増加を阻止するために、生成された写真のようなサービスを禁止するのは非現実的であることに同意しています。その代わりに、プラットフォームからのより積極的なアプローチが緊急に必要とされています。
それが起こるまで、合成メディアの採用は政府やジャーナリズムなどの公的機関への信頼を損ない続けるだろうと、ソーシャルネットワーク分析会社グラフィカの調査責任者タイラー・ウィリアムズ氏は言う。 。そして、そのようなテクノロジーの悪用と闘う上で重要な要素は、「幼い頃から始めるメディアリテラシーのカリキュラムとソース検証トレーニング」だとウィリアムズ氏は付け加えた。
AI が生成した顔を特定するにはどうすればよいですか?
幸いなことに、顔が人工的に作成されたものであるかどうかを確認する確実な方法がいくつかあります。ここで覚えておきたいのは、これらの顔は、大量の写真を混ぜ合わせるだけで生み出されるということです。したがって、実際の顔は本物のように見えますが、エッジには多くの手がかりが見つかります。耳の形やイヤリングが一致していない可能性があり、髪の束があちこちに飛んでいる可能性があり、眼鏡のトリムが奇妙である可能性があります—リストに行く。最も一般的な利点は、いくつかの偽の顔を循環させると、すべての目がまったく同じ位置、つまり画面の中央にあることです。また、Strick がここで実証したように、「 折り畳んだ電車のチケット 」ハックを使ってテストすることもできます。
ナイチンゲールは、AI が生成した写真がもたらす最も重大な脅威は、「嘘つきの配当」を加速させることだと考えています。写真が存在するだけで、あらゆるメディアが偽物として無視されることになります。 「もし私たちが周囲の世界の基本的な事実について推論することができなければ、私たちの社会と民主主義は大きなリスクにさらされることになります。」と彼女は主張します。