• ビジネス
  • IT
  • テクノロジー
  • 医療
  • 建設・不動産
  • TRENDY
  • WOMAN
  • ショッピング
  • 転職
  • ナショジオ
  • 日経電子版
  • 日経BP

偽記事を取り上げたFacebookのアルゴリズム

人間排除で失態

2016年9月27日(火)

  • TalknoteTalknote
  • チャットワークチャットワーク
  • Facebook messengerFacebook messenger
  • PocketPocket
  • YammerYammer

※ 灰色文字になっているものは会員限定機能となります

無料会員登録

close

写真●人工知能(AI)開発に積極的な米FacebookのMark Zuckerberg CEO(最高経営責任者)
[画像のクリックで拡大表示]

 Facebookのアルゴリズムが、偽記事を「トレンディングトピックス」に長時間にわたって掲載し続けたできごとは、いろいろな意味で示唆に富んでいる。

 トレンディングトピックスは英語版のFacebookに実装されている機能で、画面右上の小さなコーナにFacebookのユーザーらが話題にしているトピックをランキング順に数本、見出しと共に掲載する。

 2016年8月末、ここにでたらめな内容の記事が掲載されて、ランキングのトップを飾っていた。共和党に傾倒していることが知られるテレビ局「Fox News」の女性アンカーが、実は隠れヒラリー支持者で、それがバレて同局を首になったという内容だ。

 実は、Facebookは同じ8月にこのトレンディングトピックスを担当する編集者ら約20人をクビにしていた。編集者はそれまで掲載されるトピックを監視したり、ちょっとした見出しをつけたりするために働いていた。その役割は今後アルゴリズムに任せるという決定が下されて、ポストを奪われたのだった。

 偽記事はその数日後に浮上し、トレンディングトピックスに表示され続けた。これが偽記事であることを判断する人間がいなかったので、少なくとも8時間にわたってトップに居座り続けたという。

 問題なのはアルゴリズムのレベルが公開するレベルにほど遠かったにも関わらず、Facebookがこのアルゴリズムに仕事を任せてしまったことだ。アルゴリズムはユーザーによるテストでも不評をかっていたが、未熟なままに公開してしまった。今やニュースの流通において大きな影響力を持つ同社としては、不用意なことである。

中立性への批判で人間の編集者を排除?

 この事件には前哨戦がある。同社は2016年5月、このトレンディングトピックスの編集チームが民主党寄りだとして批判を受けていた。編集チームのほとんどが民主党支持者のため中立性を欠いていると非難されたのだ。人間不在の編集チームを目指したのも、コンピュータによる中立性を強調しようと急いだからだろう。

 教訓のひとつはもちろん、Facebookのアルゴリズムをもってしても、まだまだ人間の判断力には及ばないというものだ。だが、そのアルゴリズムも徐々に改良されていくことは間違いない。より大きな問題は立派に機能するアルゴリムズが出てきた時に、どうすればいいのか、ではないだろうか。

 例えば、そもそも中立性や正確さを保つために、アルゴリムズにはどんなことを教え込んでいるかを知りたいと思うようになるだろう。アルゴリズムとは言え、元になっているのは人間による入力だ。その中立とか正確さの基準や判断方法は何かを明らかにする必要が出てくるだろう。

コメント3件コメント/レビュー

そもそもFacebook側が勝手に主要なニュースをチョイスするのでは無く、ユーザ側が嗜好による手動選択か、嗜好学習によるAI自動選択にすべき話。(2016/09/28 12:34)

「シリコンバレーNext」のバックナンバー

一覧

「偽記事を取り上げたFacebookのアルゴリズム」の著者

瀧口 範子

瀧口 範子(たきぐち・のりこ)

ジャーナリスト

シリコンバレー在住。テクノロジー、ビジネス、社会、文化、時事問題、建築、デザインなどを幅広く日本のメディアに寄稿。

※このプロフィールは、著者が日経ビジネスオンラインに記事を最後に執筆した時点のものです。

日経ビジネスオンラインのトップページへ

記事のレビュー・コメント

いただいたコメント

そもそもFacebook側が勝手に主要なニュースをチョイスするのでは無く、ユーザ側が嗜好による手動選択か、嗜好学習によるAI自動選択にすべき話。(2016/09/28 12:34)

「共和党に傾倒していることが知られるテレビ局「Fox News」の女性アンカーが、実は隠れヒラリー支持者で、それがバレて同局を首になったという内容だ。」という記事が偽なのか正なのかは、女性アンカーが首になったか否かを確認するだけでよいはずである。従って、Facebookのアルゴリズムには、このように真偽を確認する手段が実装されていないことが分かる。つまり、「嘘つきはいない」という仮定の下で成り立つ投稿欄で、嘘つきが嘘のニュース投稿をするまでは、真実のニュースのみが投稿される、嘘つきの存在しない健全な世界だったのだと考えられる。ところが、健全な社会に嘘つきの悪者が登場することで、健全性の確認をするアルゴリズムを付加する必要が生じた、とも言えるのではないでしょうか?(2016/09/27 16:22)

何の為の人工知能なのでしょうね?下の下の経営者にとっては人件費カットの目的。中の経営者にとっては新たな需要の発見。何世代にも渉る人類の幸せと発展の為にAIが使われるべきだと思いますが、いきなりAIを使い切る能力と技術が人間にないので手がけやすいところからAIのアプリケーションを探すということでしょうね。新しいドライバーを買えばゴルフボールが寄り遠くのフェアウエイに飛んでいくという幻想に近いところがある。AIを使い切る能力を増進していると書けばよいものを、マスコミはAIと書けば何でも出来るかのような記事に書く。だから、FACEBOOKで偽記事をAIが見抜けなかったなどいう逆にスイングした記事も書いてしまう。(2016/09/27 08:21)

ビジネストレンド

ビジネストレンド一覧

閉じる

いいねして最新記事をチェック

閉じる

日経ビジネスオンライン

広告をスキップ

名言~日経ビジネス語録

2018年のヒット商品は食・睡眠・運動の3つを中心に動いていきます。

髙田 明 ジャパネットたかた創業者