• ビジネス
  • xTECH
  • クロストレンド
  • 医療
  • TRENDY
  • WOMAN
  • ショッピング
  • 転職
  • ナショジオ
  • 日経電子版
  • 日経BP

「身近な悪意」で暴走、AIのダークサイド

先端技術の光と影

  • 竹居 智久/浅川 直輝/玉置 亮太=日経コンピュータ/日経xTECH

バックナンバー

[1/4ページ]

2018年9月20日(木)

  • TalknoteTalknote
  • チャットワークチャットワーク
  • Facebook messengerFacebook messenger
  • PocketPocket
  • YammerYammer

※ 灰色文字になっているものは会員限定機能となります

無料会員登録

close

あらゆる技術には光と影がある。それはAI(人工知能)も例外ではない。フェイク動画で人をだます、人の行動を操作する、自動運転ソフトを誤動作させて人を傷つける──。悪意に操られる危険がある以上、AIの「ダークサイド」を知っておく必要がある。

(日経ビジネス2018年7月16日号より転載)

 「言ってもいないことを本当に言ったかのように見せかけられる時代になった」。2018年4月、フェイク(偽の)ニュースに警鐘を鳴らすバラク・オバマ前米大統領の映像が話題になった。

 理由は発言内容ではない。この映像自体がフェイクだったからだ。作ったのは米映画監督ジョーダン・ピール氏と米メディアのバズフィードである。

 ディープフェイク。有名人の顔を別人の顔に合成した精巧なニセ動画の総称で、PCソフト「FakeApp」を使うことが多い。FakeAppは深層学習(ディープラーニング)を活用し、不自然さを感じさせないように画像を加工できるとの触れ込みだ。冒頭に紹介した映像では、ピール氏が話したときの口元の動きをオバマ氏の映像に重ね、あたかもオバマ氏が話しているかのように見せかけた種明かしをする。映像の中の“オバマ氏”はこう締めくくる。

 「気をつけろよ、おまえたち」

 警告は単なる脅しではない。既にネット上にはディープフェイクがあふれている。メルケル独首相の顔が途中からトランプ米大統領にすり替わる演説、有名ハリウッドスターのまだ製作されていない「続編」の名場面、有名女優の顔をはめ込んだポルノ──。

メルケル・トランプが演説?
●「ディープフェイク」で作成したニセ動画の例
演説するメルケル独首相(上)の顔が途中からトランプ米大統領(下)に差し替わった
出所:YouTube(写真:The New York Times/Redux/アフロ)

コメント16件コメント/レビュー

既にAIが狂気に染まる現象が多発しているのに未だにAI正しいみたいなこと言うコメ者がいるんですね。ただ、研究はするべきですよね(確実にどこかの赤い大国はやっているでしょうし)(2018/10/12 14:00)

オススメ情報

「トレンド・ボックス」のバックナンバー

一覧

日経ビジネスオンラインのトップページへ

記事のレビュー・コメント

いただいたコメント

既にAIが狂気に染まる現象が多発しているのに未だにAI正しいみたいなこと言うコメ者がいるんですね。ただ、研究はするべきですよね(確実にどこかの赤い大国はやっているでしょうし)(2018/10/12 14:00)

AIの兵器利用。むしろ日本はやるべき。
1・AI無人潜水艦
海底にずっと潜んで、海上から進行する他国軍隊を攻撃。要するに「賢い機雷」。
自衛隊の人員数で劣る日本が物量で押してくる国に対抗する見込みは「機械を頭数に加える」事。

2・核攻撃報復用、つまり核に替わる相互確証破壊の武器
核攻撃で日本が全滅した後も、自立制御で攻撃した国に侵攻して破壊しつくして報復する。
つまり核兵器と同じ使い方。
「破壊し尽くした後は世界がどうなろうと知るか。自国はもう滅んでるし」という相互確証破壊思想で停止スイッチ(攻撃国に悪用されそうなセキュリティホール)とかは無しで。
そもそも相互確証破壊ってのはそういう狂気と無責任の思想だが、これが世界で巾を利かせてる以上、日本もこの狂気に合わせるというもので。(2018/10/04 21:12)

>AIは人よりはるかに間違えない。

その間違えない、の判断基準は誰が決めます?AI?

AIは人よりはるかに間違えない、と判断され、絶対的なものとされるのであればゼロリスクを求められるのは当然なのではないでしょうか。(2018/10/01 11:27)

ビジネストレンド

ビジネストレンド一覧

閉じる

いいねして最新記事をチェック

日経ビジネスオンライン

広告をスキップ

名言~日経ビジネス語録

トレンドの移り変わりが早い日本での経験は、海外にも応用できる。

桝村 聡 高砂香料工業社長