ディープフェイクとの戦い、どうやって彼らと戦うことができるか

ディープフェイクとの戦い、どうやって彼らと戦うことができるか

デジタル時代の真っ只中、偽のニュースに関する懸念は、公共組織、メディア、あらゆる種類の人格の注目をますます占めています。間違いなく、フェイクニュースは、2016年の米国大統領選挙、英国のEU離脱に関する国民投票、またはボルソナロを勝利に導いたブラジルの将軍などの重要な選挙プロセスに何らかの影響を与えてきました。

それほど遠くに行かなくても、私たちの国では最近、Facebookは3つの大規模な右ネットワークを閉鎖する必要があり、30のページを通じて、グループと複製アカウントが150万人を超えるフォロワーと700万人を超えるインタラクションを蓄積しました。これらのグループは、デマや偽の画像を広めることに専念していました。

しかし今、私たちは新たな頭痛の種を生み出している別のタイプのデジタル脅威に直面しています。 「ディープラーニング」 と「フェイク」の組み合わせから生まれた、いわゆるディープフェイクのことです。基本的には、人工知能の一種であり  あらゆるユーザーが本物のように見える人々の偽のビデオやオーディオを編集することができます。これには、  拮抗生成ネットワーク(AGR)が使用されます。これは、既に存在する他のセットから新しいタイプのデータを作成できる一種のアルゴリズムです。

結局のところ、「ディープフェイク」はデジタル操作のもう1つの形式であり、最良の場合に「トローリング」に使用される可能性が最も高いものの1つです。しかし、どうすればそれらを検出できますか?そして何よりも、その悲惨な結果を防ぐために民間機関や企業は何をしているのでしょうか?このスペシャルでは、この新しいデジタルスカージを阻止するために行われている取り組みを確認します。

なぜディープフェイクはそれほど危険なのですか?

「ディープフェイク」テクノロジーを使用すると、デジタルマスクまたはマスクのように、ある人物の顔を別の人物の顔に簡単に置き換えることができ、彼が実際には起こらなかった特定のことを語ったと信じさせる  ことができます。ご想像のとおり、これらの手法には、インターネット上で流通する情報の正当性を判断するための一連の非常に重要な意味があります。

それらはユーモラスなビデオを作成するためにしばしば使用されますが、真実は「ディープフェイク」が人の公共のイメージ破壊したり、偽情報の使用を通じて世論に影響を与えたりする潜在的な可能性があるということです。残念ながら、この誤用は私たちが望む以上に広まっていることをあなたに伝えなければなりません。

明確な例は、DeepNudeアプリです。このアプリでは、服を着た人の画像をアップロードし、同じ裸の人の新しい画像を作成できまし 。幸い、すでにクローズされていますが、アルゴリズム自体がすべての作業を行うため、編集の知識が不要なこのタイプのツールの使いやすさを強調する必要があります。

深い

DeepNudeの場合、プラットフォームは信じられないほど現実的な結果を提供し、WindowsおよびLinux用のWebサイトから完全にアクセス可能でした。そして予想通り、Katy PerryやGal Gadotなどの有名人とのモンタージュがネットワークに表示されるまでに長い時間はかかりませんでした。これらの女優の弁護士からの圧力は、重要なアダルトコンテンツのウェブサイトが動画を削除するまで止まりませんでした。 。

これは、これらのタイプのアプリケーションが持つことができる処理能力の氷山の一角すぎません。次に、国や地域での選挙プロセスを操作するために、特定の政治家に向けられたこのタイプのキャンペーンの結果を想像してみてください。悪は限界を知りません。

ディープフェイク

ディープフェイクはどのように戦っていますか?

最初に発言した企業の1つは、Googleに他なりませんでした。Googleはディープフェイクに対抗するための会社の決意を発表し、これらの事例で言うように、消火します。テクノロジーの巨人は、研究者の検出ツールを洗練するために特別に作成された人工知能(ディープフェイク)で操作された最大3,000本のビデオのデータベース全体の立ち上げを確認しました。

これを行うために、Googleは実際の俳優を雇って彼らの顔を記録し、ビデオが人工的に変更されたかどうかを判断するための基準として使用しました。誰もが利用できるディープフェイク生成方法を使用して、何千ものディープフェイクがこれらのレコーディングから作成されます。

研究者がシステムが何を生成しているかを完全に理解できるように、結果のビデオは、実物と偽物が共同開発プラットフォームGitHubにアップロードされます。私たちが言うように、このデータベースは完全にアクセス可能ですが、最初に許可を与える必要があります

Facebookも、今年の終わりまでに同様のデータベースを作成する予定です。最高経営責任者であるマーク・ザッカーバーグによると、主な問題は  、業界がそれらを検出するための標準化されたシステムを持っていないことです。それがAI、マイクロソフト、コーネルテック、MIT、オックスフォード、カリフォルニア大学バークレー校、メリーランド大学、カレッジパーク、アルバニー大学の学者と協力して、ディープフェイクス検出チャレンジを構築した理由です。 (英語での頭字語はDFDC)。

このマクロプロジェクトには、広範なデータベースと詳細な分類、およびできるだけ多くの協力者を奨励するための資金援助と寄付が含まれます。アイデアは、AIを介して操作されたビデオを検出して回避するのに役立つ一種のコミュニティを作成することです。

「ディープフェイク」の拡散が非常に深刻な問題となってきており、無視できない重大な結果がもたらされていることは間違いありません。この原因に取り組んでいる主要なエージェントによって提案された対策は、長期的には非現実的または逆効果に見えるかもしれませんが、この犯罪を根絶する唯一の方法かもしれません。直感に反するように見えるかもしれませんが、「ディープフェイク」をより「ディープフェイク」と戦うことで、検出ツールがより多くのデータを吸収し、これらのタイプのモンタージュをより簡単に見つけることができます