誰も信じないでください。ニューラルネットワークを脅かすもの、ポルノを作るもの

ドミトリー・カーキン

偽のポルノビデオ今週のウェブに登場した映画「ワンダーウーマン」ギャルガドーのスターは彼の義理の母とセックスをしていたとされているが、これは単なる偽物ではなく、人工知能によって生成された偽物であることが判明した。

ビデオの著者、deepfakesというニックネームを持つredditの匿名ユーザーは、Vadとのインタビューで、Gadotの顔をポルノ女優の身体に「撮る」ためにニューラルネットワークを使用したことを確認した。偽物は、一般的に、目立つもので、ディープフェイクはそれにお金をもうけることを計画していませんでした - 彼によると、彼はそれがAIを使ってそれを作ることがどれほど簡単かを調べたかった。それに彼には悪い知らせがあります。自宅で偽のポルノを作るのはとても簡単でした。

問題は、一般的に、それ自体はポルノリークではありません。有名人のような俳優や女優がセックスをしている写真やビデオの需要は、ありとあらゆるフェティシストやセンセーションファンにあります。ポルノ業界のスターとの外部的な類似性では、全キャリアが作られています - この現象は黄色の報道の際立った見出しを引き起こしさえしました：「ゴードンラムゼー小人はアナグマ穴で死んでいるのがわかります」。

しかし、制作の前に時間、リソース、そしていくらかのスキルが必要な場合は、顔を画像に溶着させるように訓練されたニューラルネットワークで作業が大幅に簡略化されます。ロボットは人ではなく固執し、ロボットは時々賢くなります。これは偽物がますます信頼できるようになることを意味します。 deepfakesユーザーは、オープンソースライブラリにある即興の要素から自分のAIソフトウェアを収集し、公共の排水路やYouTubeなどのホスティングで写真やビデオを撮ったことを明らかにしました。簡単に言うと、pornofeikovを生成するためのすべてのツールは、彼の鼻の下だけでなく、世界中の何百万という人々の間にありました。

そしてこれは、厳密に言えば、ニュースでさえありません。 2003年に、オレゴン大学健康科学大学の専門家は、音声詐欺は「作成が容易で判断が難しい」と警告しました。 2017年までに、この予測は真実となり、ニューラルネットワークによって生成された偽の音声録音がありました。これは実際のものと区別するのが非常に困難です。オーディオに続いて、ビデオは引き上げられました。ワシントン大学のスタッフの開発は、人の顔の表情と彼のスピーチを同期させます。たとえば、バラク・オバマ氏が配置したビデオクリップでは、音声だけが存在し、画像はプログラムによって生成されます。一方をもう一方に接続します - そして今では、有名なリベラルな政治家がヒトラーへの同情を「告白」している偽のビデオが用意されています。

このような人工知能が悪用されると想像するにはかなりの想像力が必要です。Twitterのトロールが1日もしないうちに人種差別主義者になったMicrosoftのチャットボットは、かなりいたずらのように思えるでしょう。そしてもちろん、ポルノテクノロジーは、Gal Gadot、Taylor Swift、Jennifer Lawrenceのいずれにも脅かされていません。彼らは偽物を認識するIT専門家の軍隊と、これらの偽物を個人的な利益のために使用しようとする者を訴える一団の弁護士を雇うのに十分なほど安全です。

いいえ、単純な人間は新しい無害なアルゴリズムの犠牲者になるでしょう。デジタルの偽造品は、ポルノ、サイバーストーキング、ネットワークへの嫌がらせ、脅迫、高度な技術分野のニュースに特に従っていない人々による不正操作に使用される可能性があります（「あなたの娘はビデオ録画されました。そして、私たちは必ずしもポルノについて話しているわけではありません。政治的宣伝と憎しみへの誘惑のために偽物もネットワークに投入される可能性があります。

「でもこれは凄い！」はい、すごい、そしてそれは非難するのはdeepfakesコーダーではありません。ハッカーが金銭を盗むためではなく、セキュリティホールに侵入するために銀行システムに侵入することがあるので、匿名のAIプログラマーによって発明されたのは事実の前に置かれているだけです。「ブラックミラー」とこれからの現実彼女は現代の倫理（ポルノ愛好家は他の人々のプライバシーの侵害と見なすことができるのか？）にまだ理解されていない、あるいは力のある法律によっても理解されていない。しかし、私たちがどういうわけか今後数年間生きなければならないのは彼女の中です。だから、そのような詰め物に対する解毒剤を開発する必要があります。

コリンズの辞書キュレーターは、「偽のニュース」という用語を2017年の表現と呼んでおり、平均的なユーザーはクリックベイトをしてセンセーショナルな見出しを再投稿することに中毒性があることを強調しています。一方、偽のニュースは選挙や国民投票の結果に影響を与える可能性があります。そしてこれもまた、私たちがすでに存在しており、それほど軽薄ではないことを学ぶ必要があるという新たな現実の一部です。

ソーシャルネットワークによって、インターネットはすでにガラス張りの家になっていて、毎日何百万人もの人々があなたの生活を見ることができます。この家には扉がないのは明らかです。AIを使用してポルノロールまたは映画「ロード・オブ・ザ・リング」に顔を固定することで、だれでも個人のスペースに侵入しようとすることができます。プライバシーは死んでいます、しかしビッグブラザーは特別なサービスとグローバル企業の形でこれだけでなく私たち自身の罪でもあります。

デジタル偽造の世界は到来していますが、これはパニック、パラノイア、インターネットの使用の拒否、またはニューラルネットワークを禁止するための要件の理由ではありません。これがネットワークの衛生と新しい倫理を考える理由です。デジタルの偽造物を作成するために他人のイメージを使用することは、いったん修正されるだけで、まったく不法です。人々がテレビで話すすべてを無条件に信じていた時代は（たとえ「レーニンはキノコだった」と言っていても）、衰退しています。同じように、インターネット上に書かれていることすべてを信じないように徐々に慣れていきます。

カバー：ワープ記録