大きな進歩とともに大きな責任を果たす

コンテンツ

• 良い話は真実全体よりも説得力がある
• まだ信じている？
• 検出できない偽物
• バグやストレスなし-あなたの人生を破壊することなく人生を変えるソフトウェアを作成するためのステップバイステップガイド
• 考えられる結果
• 積極的な計画

ソース：Mike2focus / Dreamstime.com

取り除く：

メディア消費は、人工知能（AI）などの技術の進歩とともに進化しています。私たちは一般的に進歩を受け入れますが、テクノロジーのいくつかの形態の欠点も認識しなければなりません。偽のニュースの宣伝にAIを使用する場合、AIの機能には暗い側面があります。

5月15日にブルームバーグが市のグローバル本社で主催し、ホストしたNYC Media Labの2回目のMachines + Mediaカンファレンスでは、テクノロジーの暗い側面が調査されました。現在、メディアでは、操作や誤った情報の影をもたらしたものも利用できます。

良い話は真実全体よりも説得力がある

「最先端技術」と題されたセッションで、Buzzfeedのデータサイエンス責任者であるGilad Lotan副社長は、偽のニュースや誤解を招くニュースの問題は、メディア企業や新技術だけで責めることはできないと指摘しました。 「人々は必ずしも事実を探しているわけではない」と彼は言った。 「読者は物語が欲しい。」

彼は、物語と好まれる物語への欲求を養うと、「偽情報よりも操作が多い」偽ニュースになる可能性があると付け加えました。実際、配信された物語には、まったく偽が含まれていない場合があります。それについての偽物は、報告された事実がチェリー・ピックされ、「読者を結論に導く」ために、より大きな「詐欺」から取り除かれるということです。

同じ方針に沿って、「プラットフォーム+メディア」セッションで、ウィリアムとフローラヒューレット財団の米国民主主義イニシアチブから生まれたケリーは、「人々は彼らの信念を強化するニュースのように、特に怒りを引き起こす場合」と述べました。彼女はその資本化を警告しました。その傾向は、私たちに最悪の事態をもたらす「完全な嵐」につながる可能性があります。これは、完全に作成されたプレゼンテーションの可能性によって悪化します。

まだ信じている？

テクノロジーは、画像やビデオを通じてストーリーを伝える役割を果たします。通常、操作の明らかな兆候がない限り、私たちが見ているものを信じます。ただし、AIが偽のビデオのリアリズムを改善するにつれて、文字通り公人の口に言葉を入れることが可能になりました。 （AIは悪意のある目的にのみ使用されているわけではありません。企業がAIの使用を検討する5つの方法で建設的なものをチェックしてください。）

AIが非常に信頼できるビデオを制作することの危険性は、「機械駆動型メディアのダークサイドの解決策」と題されたセッションで実証されました。動きはまだ言葉と少し同期していないため、偽のビデオのいくつかのマークがあり、ほとんどの視聴者はそれを偽物として認識することができると言った。

オバマ氏のビデオ操作は、ピーター・クッシングを「ローグ・ワン」のグランド・モフ・ターキンとして復活させるという現実を達成しなかった。ニューヨーク・タイムズの記事が説明したように、その効果は俳優に「モーションキャプチャー素材を頭につけて」カメラの前で「彼の顔をクッシングのデジタル再作成に置き換えることができるように」。映画のチーフクリエイティブオフィサー/シニアビジュアルエフェクトスーパーバイザーは、「超ハイテクで労働集約的なバージョンの化粧。"

検出できない偽物

今、AIの進歩、特に生成的敵対ネットワーク（GAN）のおかげで、映画の魔法の効果をこれまで以上に簡単に実現できます。 1つのAIシステムは、GANを利用して、偽物を検出するように設計されたAIシステムによって本物として受け入れられるのに十分になるまで、映像を改良します。

バグやストレスなし-あなたの人生を破壊することなく人生を変えるソフトウェアを作成するためのステップバイステップガイド

誰もソフトウェアの品質を気にしない場合、プログラミングスキルを向上させることはできません。

このビデオでは、研究者が俳優が公人の顔の動きをどのように演出して、通常は医師のビデオでは見られない忠実度の表現と発音を生み出すことができるかを示しています。

ビデオで遊んでいるすべての人が現在そのようなシステムを利用できるわけではありませんが、このソフトウェアは近い将来、より多くの人々の手に届くでしょう。

考えられる結果

Factmataの創設者兼CEOであるDhruv Ghulati氏は、この能力が、世界のリーダーだけでなくCEOや有名人の顔をビデオに入れて、彼らが言っていないことやしていることを証明する方法に「非常に心配している」と言います。ビデオの破壊力は、ボットネットからのウイルス効果を達成することにより強化されます。

コーネルテックの情報科学の准教授であるMor Naaman氏は、「嘘をついた目をもう信用できない」ことを意味します。彼は信頼の喪失につながることを心配していました。

他の人々は、暴力の炎を扇動することを心配しています。 Center for Social Media ResponsibilityのチーフテクノロジストであるAviv Ovadya氏は、既に「わずかに修正されたビデオ」が「開発途上国で暴力を引き起こすために使用されている」と述べています。 （ソーシャルメディアは、誤った情報を広める効果的な方法です。上位4つの最も破壊的なフィードハックをご覧ください。）

Investing in USのパートナーであるSarah Hudsonは、「大規模に」操作された画像が「公共の安全に対する信じられないほどの脅威」になるという懸念を表明しました。

積極的な計画

「可能な限り多くの虐待を防ぐ」ことが不可欠です、とオバディアは言いました。そのため、「技術を開発しながら事前に考え」、「悪影響を軽減する方法」について、および「これらの意図しない結果に対処するためのリソースを投入する」ことが重要です。

進行中に時計を元に戻すことはできませんが、私たちがしなければならないことは、私たちがとる方向が考えられ、計画されていることを確実にすることです。それは、何ができるかを見るためにテクノロジーに取り組むだけでなく、回避すべきことを何ができるかを考えることを意味します。

技術革新のための前進の方法は、その影響が何であるかを考え、危険が実現する前に安全対策を計画することです。そのためには、研究者、テクノロジー企業、政府機関が協力して、人々が順守する基準とベストプラクティスを確立する必要があります。それは関係者全員にとっての優先事項であるべきです。