NHKスペシャル デジタルVSリアル(1)「フェイクに奪われる“私”」フェイクを信じた市民に無実の若者が殺害…


出典:『NHKスペシャル デジタルVSリアル(1)「フェイクに奪われる“私”」』の番組情報(EPGから引用)


NHKスペシャル デジタルVSリアル(1)「フェイクに奪われる“私”」[字]


第1回は「フェイク」との闘い。「フェイク」を信じた市民に無実の若者が殺害され、AIの映像技術による偽のポルノ動画が拡散される被害も。シリーズアイコンは渡辺直美!


番組内容

第1回は氾濫するウソの情報「フェイク」との闘い。「フェイク」を信じた市民に無実の若者が殺害される事件やAIを使った最新技術「ディープフェイク」による身に覚えのない偽のポルノ動画が拡散される被害が世界各地で発生。選挙の現場では世論操作を狙って「フェイク」が飛び交う。信じたい情報だけが信じられ“真実”が揺らぐ時代、私たちにできることは?シリーズアイコンは渡辺直美。デジタルに翻弄されるリアルを体感!

出演者

【出演】渡辺直美


『NHKスペシャル デジタルVSリアル(1)「フェイクに奪われる“私”」』のテキストマイニング結果(ワードクラウド&キーワード出現数ベスト20)

NHKスペシャル デジタルVSリアル(1)「フェイクに奪われる
  1. フェイク
  2. 拡散
  3. 投稿
  4. 情報
  5. AI
  6. ディープフェイク
  7. リアル
  8. リカルド
  9. 動画
  10. ノエル
  11. 韓氏
  12. 市民
  13. 事態
  14. アカウント
  15. メルロ氏
  16. 自分
  17. 利用
  18. SNS
  19. 選挙
  20. 操作


『NHKスペシャル デジタルVSリアル(1)「フェイクに奪われる“私”」』の解析用ソース(見逃した方はネタバレ注意)


解析用ソースを読めば、番組内容の簡易チェックくらいはできるかもしれませんが…、やはり番組の面白さは映像や音声がなければ味わえません。ためしに、人気のVOD(ビデオオンデマンド)サービスで、見逃し番組を探してみてはいかがでしょうか?

☆無料で民放各局の動画視聴ができるTVer(ティーバー)!まずはココから!

他にも、無料お試し期間のあるVODサービスが増えてますので、以下バナーから各社のラインナップを調べてみるのもいいかもしれませんね。


AbemaTV




↓NHK 関連商品

まるで 目に見えないウイルスのように
拡散する デマやウソ。

今 フェイクが
社会を根底から揺さぶり始めています。

フェイクによって 人々が誤った行動へと
駆り立てられる事態も

次々に起きています。

メキシコでは 無実の若者が

フェイクに扇動された群衆に殺害される
衝撃的な事件が…。

更に 深刻な事態は止まりません。

AIによるフェイク動画。

本人の画像を使った
精巧なポルノが拡散しているのです。

被害に遭った女性。

フェイクが
本当の自分だと思われないか

恐怖におびえています。

私はリアル?

それとも フェイク?

今 私たちを取り巻くのは
現実の世界だけではありません。

あらゆるものがデータ化された
デジタル世界。

データの年間総量は

50兆ギガバイトという
途方もない数字に達しています。

膨張を続けるデジタル世界に

私たちのリアルは
飲み込まれてしまうのか…。

シリーズ 「デジタルVSリアル」。

第1回は 人と社会を大きく揺さぶる
フェイクの最前線です。

「Nスペ」放送中と。

900万人のフォロワーの
みんな Thanks!

何か投稿すると
シェアされるの うれしいなあ。

えっ 何 これ!

「直美が不倫」? 何なの?

誰 こんなフェイクニュース!

私よ 私。 渡辺ナオミよ。
これ 私のことだから。

あ~あ 不倫なんかしなきゃよかった。

ちょっとあんた 私のフェイクね!
勝手なこと言わないで!

あっ でも 私の投稿より
シェアされてる。

新型コロナウイルスの感染拡大が
深刻化した3月。

ネット情報をチェックする
NHKのチームが

デマの大量拡散を捉えていました。

マスクと原材料が同じ トイレットペーパーの入荷が
少なくなるみたい。

当初 8, 000件だった
トイレットペーパーに関するツイートは

たった3日で 89万件にまで急増。

ウソや誤り そして 真偽不明のうわさ
といった フェイクが飛び交い

人々が買い占めに走る事態が
起きていたのです。

フェイクは
世界各地で 人々を混乱に陥れています。

フェイクを信じ込んだ人たちが
無実の人の命を奪う

そんな衝撃的な事件まで起きています。

メキシコで撮影された動画。

群衆が男性を引きずり出しています。

人々は正義を叫びながら
生きたまま 2人に火をつけました。

群衆に殺害されたリカルドさんと
叔父のアルベルトさんです。

フェイクによって
誘拐犯の濡れ衣を
着せられていました。

リカルドさんの母親です。

現場に駆けつけた家族から
その最期を聞かされました。

全ての始まりは その日に投稿された
リカルドさんに関するフェイクでした。

誘拐犯と名指しされたリカルドさん。

この町では ある不安が高まっていました。

メキシコ全土で
年間8万件に上る誘拐事件が

実際に起きていたのです。

誘拐犯が捕まったという投稿があった時

確かに リカルドさんと叔父は
警察署にいました。

しかし それは 路上飲酒で
事情聴取を受けていたからでした。

不運なことに
この間に撮影された一本の動画が

事態を 更に 深刻化させていきます。

この映像に映っていたのが
リカルドさんの車でした。

作業用に積んでいた鎖は
誘拐の証拠とされ

市民の正義感を
一気に駆り立てていきます。

この動画に 本来 事件とは関係のない

ウソの情報までもが
次々に書き込まれました。

リカルドさんらを犯人とする書き込みは
母親の目にも留まりました。

母親は 必死で訴えます。

しかし 母親の叫びは
フェイクに かき消されていきました。

そして 裁きを呼びかける投稿によって
群衆は ついに一線を越えます。

リカルドさんがいた警察署の前には
およそ150人が集結。

警察は 誘拐は起きていない
2人は無実だと説明しましたが

もはや 誰の耳にも入りませんでした。

リカルドさんたちは 引きずり出され
火をつけられたのです。

フェイクが投げ込まれてから
僅か2時間の出来事でした。

なぜ 一本のフェイクが急激に拡散し
人々を突き動かしたのか。

フェイクのメカニズムを研究する
シナン・アラル教授です。

12年分のツイートを材料に

事実とフェイクの拡散の違いを
分析しました。

その結果
フェイクの人々への到達時間は

事実に比べ 20倍速いことが分かりました。

中でも 特に拡散したのは
負の感情に訴えかけるフェイクです。

嫌悪感や怒りを覚えるフェイクは

喜びなど 肯定的なものよりも
人々の強い反応を引き出していたのです。

人々の感情を揺さぶるフェイクが

もしも意図的に利用されたら
どうなるのか。

最も懸念されているのが
選挙における世論操作です。

前回のアメリカ大統領選挙では

トランプ氏 ヒラリー氏
両候補に対するフェイクが拡散しました。

国民のおよそ半数がフェイクに接触。

投票行動が左右されたという
報告も出ています。

今 こうしたフェイクによる世論操作は
世界中に拡大。

確認されているだけでも
70の国と地域に上っています。

その一つ 台湾です。

今年 激しいフェイクの応酬が
繰り広げられた台湾総統選挙。

現職の蔡氏と
中国との関係改善を訴える韓氏が激突。

蔡氏の圧勝に終わりました。

選挙戦のさなか

私たちは フェイクが生み出される現場を
目の当たりにしました。

蔡氏を支持する この市民グループは
対立候補をおとしめるような投稿を

20万人のフォロワーを使って拡散。

イベントで撮られた韓氏の画像に対し
こう書き加えました。

「韓氏が親の同意を得ずに
赤ん坊にキスをした。

母親は怒っていた」。

泣き叫ぶ赤ん坊を抱えながら
笑みを浮かべる姿を抜き出し

人々の嫌悪感に
訴えようとしたのです。

この投稿に対し
医師が衛生上問題があると指摘。

そこから 一気に
書き込みはヒートアップします。

実は この投稿 「親の同意を得ずに
キスをした」という部分はフェイクでした。

選挙戦が始まったあと

香港デモの影響を受け
支持率が下落していた韓氏。

このフェイクが投稿されたあと

更に支持率を1%落としました。

選挙中 両陣営の支持者などから
飛び交ったフェイクは

確認されただけでも
250件以上に上りました。

台湾の中だけではありません。

海の外からのフェイクも
深刻な事態をもたらしていました。

アメリカのFBIにあたる
台湾調査局。

今回 初めてカメラが入りました。

この日 調査局が
一本の動画を取り上げました。

台湾の対日貿易赤字に触れ

蔡氏が日本に従属していると断言する

この動画。

調査局は 中国人記者が投稿したものだと
突き止めていました。

反日感情をあおる
この投稿は

韓氏の支持者を中心に
拡散していきました。

専門家は 民族感情に訴えるフェイクは
特に拡散しやすいと指摘します。

選挙の直後。

私たちは フェイクの真の脅威を
目の当たりにすることになりました。

敗れた韓氏の支持者が拡散していたのは

選挙で不正があったと指摘する
ある動画です。

韓氏の番号2番が読み上げられる度に

逆に 蔡氏に票が加えられていくように
見えます…。

しかし 実は これもフェイク。

2番が読み上げられる声は

隣の開票の音を
拾っているだけだったのです。

ところが 支持者たちは

動画がフェイクと認定されたにも
かかわらず 受け入れようとしません。

フェイクによる世論操作を分析する
王銘宏助教です。

人々がフェイクにさらされ続け

自分の信じたいものしか
信じなくなることに

警鐘を鳴らしています。

せっせとアップしてるのに
全然「いいね」が増えない。

バカねえ 直美。

今の時代 真面目にやってても
「いいね」が増えるわけないじゃん。

教えてあげようか? その方法…。

フェイクの爆発的な拡散を
可能にしているのは

「リツイート」や「シェア」「いいね」
といったSNSの機能です。

今 それが意図的に操作され

フェイクの更なるまん延を
招いています。

世界中のフェイクを監視するシンクタンク
デジタルフォレンジック ラボです。

各国から SNSを悪用した
世論操作の実態が報告されていました。

この日 注目されたのは
中南米からの報告です。

選挙におけるフェイクが深刻なメキシコ。

スタッフは リツイートを操作し
選挙に介入しようとした痕跡を

発見していました。

拡散されたのは 「大統領候補が
自分の兄弟を殺した」というフェイクです。

こうした投稿が 僅か半日で
20万回のリツイートを記録。

異様な拡散は 夜9時から翌朝9時まで

休まず続けられていました。

使われたのは ボット。

大量のスマートフォンを使って
偽のアカウントを作り出し

「いいね」や「リツイート」を量産。

投稿を機械的に一気に拡散させる
システムです。

こうしたフェイクで荒稼ぎしてきたという
ある人物の名前が挙げられました。

カルロス・メルロ氏。

フェイク王になると
公言した人物だといいます。

メルロ氏を長年追跡してきた
ネット分析の専門家

アルベルト・エスコルシアさんです。

メルロ氏がフェイクを拡散させたと
見られる 代表的なケースを示しました。

「メキシコの大統領候補が

ベネズエラのチャベス氏と
つながっていた」とするフェイクです。

この書き込みは
火種のツイートが発信されると

メルロ氏らがボットを使って大量拡散。

トレンドに浮上したことで
一般の人の間でも話題になり 次々に拡散。

テレビ局も取り上げる事態となり

大統領候補に
ダメージを与えたといいます。

一連の投稿は 僅か2日間で
4, 000万回 見られていました。

今回の取材で 拡散の手口は

更に巧妙になっていることが
分かってきました。

カメラが入ったのはマーケティングを行う
メルロ氏の下請け会社です。

この会社が利用するのは
ボットではなく 実在するアカウント。

偽のアカウントは すぐに
削除されるからだと言います。

一体 どうやって
他人のアカウントを操作するのか。

開発したのは
今や100万人の利用者がいる このアプリ。

自らのSNSに
「いいね」を増やしたいという

人々のニーズに応えるものです。

アプリがダウンロードされると
この会社は

ユーザーのアカウントを
自由に使える権利を得ます。

こうして集めた
膨大なアカウントを操作。

特定の書き込みに「いいね」を積み上げ

拡散させるのです。

この日 市長選挙を前にした
ある政治家から

ネットの世論調査で 支持率を上げたい
という依頼が舞い込みました。

操作を始めて 僅か数分。

得票数は 一気に160票増えました。

私たち一人一人の「いいね」が
フェイクの拡散に利用されていたのです。

フェイクを発信するだけでなく

フェイクの拡散まで
自在に操ってきたメルロ氏。

3か月に及ぶ交渉の末
取材に応じました。

案内された部屋に飾られていたのは…。

海外の政治家や企業の印象操作などを
請け負ってきたと言います。

「いいね」欲しさに アプリを使うのも

フェイクと確認せずに
すぐに拡散するのも

全て市民だと言い放ちました。

どう? 私の体。

最近 ジムに行って鍛えてるの。

何 勝手なことしてるの!
フェイクのくせに!

あら 私がリアルよ?

あなたはフェイク! 私がリアル!

あれ 何か 私 消えていってない?

今 フェイクの脅威は 私たちが
いまだかつて経験したことのない

深刻な領域に突入しています。

フェイスブック社のCEO
ザッカーバーグ氏が語る この動画。

しかし 実際は…。

口の動きが はめかえられ

全く別の内容に
話が作り替えられています。

こうした映像や音声のフェイクを
可能にしたのは

AI技術の革新的な進化です。

AIが 直美さんの表情を
5万に及ぶポイントに分けて分析し

その動きを学習。

そこに
別人の映像データを入力すると…。

あ あ あ…。

AIは 直美さんの表情を
自由自在に動かします。

更に…。

別人の音声データを基に
声も本人そっくりに。

「私 不倫していました」。

「私 不倫していました」。

AIを使った学習
ディープラーニングによる

ディープフェイクです。

これまで 映像は 細工が難しいため
信頼度が高いとされてきました。

しかし 最新技術
ディープフェイクの使い方次第では

映像のリアルを
根底から揺るがしかねないのです。

既に 水面下では
見逃せない事態が進んでいます。

都内のマンションの一室。

次々にアップされていたのは

日本の女性タレントの
アダルトビデオです。

これらは全てディープフェイク。

再生回数は 多いもので
470万回を超えていました。

プログラマーのこの男性は
AIの知識がなくても

ネットに公開されている
プログラムを使えば

簡単にできると言います。

そうですね…

ディープフェイクによる被害を受けた
ノエル・マーティンさんです。

ノエルさんは 今 自分の存在そのものを
揺るがされています。

ある日 偶然目にした
身に覚えのない 自らのポルノ動画。

そこには 名前や住所などの
個人情報までもが記されていました。

フェイスブックを愛用し

およそ1, 000人の友人と
つながっていたノエルさん。

友人との食事や旅行 家族と撮った写真。

日々の何気ない投稿が
ディープフェイクに利用されたのです。

誰がやったのか心当たりもなく
弁護士や警察に相談したノエルさん。

サイトの運営者に 削除を求めましたが

既に拡散しており
打つ手はありませんでした。

ノエルさんは 意を決して
テレビカメラの前で 被害を告白。

しかし フェイクではなく
本人ではないかと疑う声が

かえって増すばかりでした。

その時 支えてくれたのは
僅かな親友だけだったと言います。

リアルな自分は失われ

偽りの自分だけが
信じられていくのではないか。

ノエルさんは
今も恐怖におびえ続けています。

ディープフェイクによる被害は
半年間で倍増しています。

対抗する手段はあるのか。

ディープフェイクをAIの力で見破る
技術の開発が進んでいます。

作り替えられた部分をAIが検知し
白く表示する技術です。

しかし 見破る技術が高まれば

それを利用した 作る技術も向上する
いたちごっこが続いています。

ディープフェイク拡散に利用されてきた
SNSも 対策を迫られています。

フェイスブック社は
今年

一部のディープフェイクを
削除する方針を
示しました。

ただ どこまでを表現の自由と捉えるか
判断が難しく

規制は 限定的であるべきだとしています。

あ~ もう だから違うって。

私 不倫もしてないし
マッチョにもなってない。

もう どうしたらいいの?

とどまるところを知らない
フェイクの拡散に

私たちは
どう あらがっていけばいいのか。

選挙中
フェイクに揺るがされた台湾。

今 台湾の公共放送は

新型ウイルスを巡るフェイクへの対応に
追われています。

特別チームが フェイクを検証する番組を
立ち上げていました。

この日「お湯を飲むと感染を予防できる」
というフェイクが拡散していました。

しかし 事実よりも
はるかに早く拡散するフェイクを前に

情報の確認が追いついていません。

更に フェイクの中には
真偽不明の情報や

フェイクと言い難い
単なる意見などもあり

作業は 困難を極めていました。

こうした中

まずは フェイクが拡散する
スピードだけでも遅らせようという

新たな取り組みが始まっています。

進めるのは IQ180ともいわれる
デジタル担当大臣の唐 鳳氏。

行政からの情報不足によって
市民が不安に陥ることが

フェイク拡散の大きな要因だと
考えています。

もう一つ 唐氏が重視しているのが
情報に対する市民の意識です。

真偽不明の情報を調べる このNPO。

フェイクの拡散スピードに対抗するため

あえて ファクトチェックに
時間をかけません。

500人のボランティアは
疑わしい情報に関して

さまざまな角度から
別の情報を集めています。

この日 調べていたのは

「新型ウイルスは
中国で製造された」とする動画。

早速 ボランティアが
さまざまな情報を集め始めました。

ウイルス研究所の責任者が

自らのSNSで
疑惑を否定した書き込み。

逆に「ウイルスは
その研究所から流出した」と

アメリカの議員が発言した記事も
収集されていきます。

ボランティアが集めた情報は
AIが管理し

登録している24万人の市民に
提供されます。

真偽不明の情報を受け取った時

AIが検知して
関連情報を添付してくれる仕組みです。

市民がフェイクをうのみにし

即座に拡散することを
防ごうというのです。

一つの見方ではなく

あえて 多様な視点を提供する
この取り組み。

NPOは フェイクの拡散を
断ち切ることができるのは

市民の 自ら考える力だと言います。

このNPOから情報を受け取る
男性です。

感情に流されることなく

立ち止まって考える機会が
増えたと言います。

今年 世界を待ち受けると見られる
過去最大のフェイク・ウォーズ。

秋のアメリカ大統領選挙に向け

前回以上のフェイクの応酬になると
指摘されています。

既に出回っている最新のフェイク。

全てAIが作り出した
実在しない人物です。

信ぴょう性を高めた
膨大な偽アカウントが

トランプ大統領を支持する投稿を
拡散したのです。



ハロー。

ディープフェイクの世界では
国境を越えて

ポルノ動画をやり取りするサイトまで
現れました。

世界中の女性を狙った依頼が
相次いでいます。

フェイクのポルノ動画を拡散された
ノエル・マーティンさんです。

国際的なスピーチの舞台に立った
ノエルさん。

自らの経験を 一人でも多くの人に
知ってほしいと訴えました。

(拍手)

今 この瞬間も膨張し続ける
デジタル世界。

フェイクの拡散は
とどまることを知りません。

このまま リアルは
りょうがされていくのか。

それとも…。

どっちがリアル?
どっちがフェイク?

私は リアル?


関連記事