• BPnet
  • ビジネス
  • IT
  • テクノロジー
  • 医療
  • 建設・不動産
  • TRENDY
  • WOMAN
  • ショッピング
  • 転職
  • ナショジオ
  • 日経電子版

偽記事を取り上げたFacebookのアルゴリズム

人間排除で失態

2016年9月27日(火)

  • TalknoteTalknote
  • チャットワークチャットワーク
  • Facebook messengerFacebook messenger
  • PocketPocket
  • YammerYammer

※ 灰色文字になっているものは会員限定機能となります

無料会員登録

close

写真●人工知能(AI)開発に積極的な米FacebookのMark Zuckerberg CEO(最高経営責任者)
[画像のクリックで拡大表示]

 Facebookのアルゴリズムが、偽記事を「トレンディングトピックス」に長時間にわたって掲載し続けたできごとは、いろいろな意味で示唆に富んでいる。

 トレンディングトピックスは英語版のFacebookに実装されている機能で、画面右上の小さなコーナにFacebookのユーザーらが話題にしているトピックをランキング順に数本、見出しと共に掲載する。

 2016年8月末、ここにでたらめな内容の記事が掲載されて、ランキングのトップを飾っていた。共和党に傾倒していることが知られるテレビ局「Fox News」の女性アンカーが、実は隠れヒラリー支持者で、それがバレて同局を首になったという内容だ。

 実は、Facebookは同じ8月にこのトレンディングトピックスを担当する編集者ら約20人をクビにしていた。編集者はそれまで掲載されるトピックを監視したり、ちょっとした見出しをつけたりするために働いていた。その役割は今後アルゴリズムに任せるという決定が下されて、ポストを奪われたのだった。

 偽記事はその数日後に浮上し、トレンディングトピックスに表示され続けた。これが偽記事であることを判断する人間がいなかったので、少なくとも8時間にわたってトップに居座り続けたという。

 問題なのはアルゴリズムのレベルが公開するレベルにほど遠かったにも関わらず、Facebookがこのアルゴリズムに仕事を任せてしまったことだ。アルゴリズムはユーザーによるテストでも不評をかっていたが、未熟なままに公開してしまった。今やニュースの流通において大きな影響力を持つ同社としては、不用意なことである。

中立性への批判で人間の編集者を排除?

 この事件には前哨戦がある。同社は2016年5月、このトレンディングトピックスの編集チームが民主党寄りだとして批判を受けていた。編集チームのほとんどが民主党支持者のため中立性を欠いていると非難されたのだ。人間不在の編集チームを目指したのも、コンピュータによる中立性を強調しようと急いだからだろう。

 教訓のひとつはもちろん、Facebookのアルゴリズムをもってしても、まだまだ人間の判断力には及ばないというものだ。だが、そのアルゴリズムも徐々に改良されていくことは間違いない。より大きな問題は立派に機能するアルゴリムズが出てきた時に、どうすればいいのか、ではないだろうか。

 例えば、そもそも中立性や正確さを保つために、アルゴリムズにはどんなことを教え込んでいるかを知りたいと思うようになるだろう。アルゴリズムとは言え、元になっているのは人間による入力だ。その中立とか正確さの基準や判断方法は何かを明らかにする必要が出てくるだろう。

コメント3

「シリコンバレーNext」のバックナンバー

一覧

「偽記事を取り上げたFacebookのアルゴリズム」の著者

瀧口 範子

瀧口 範子(たきぐち・のりこ)

ジャーナリスト

シリコンバレー在住。テクノロジー、ビジネス、社会、文化、時事問題、建築、デザインなどを幅広く日本のメディアに寄稿。

※このプロフィールは、著者が日経ビジネスオンラインに記事を最後に執筆した時点のものです。

日経ビジネスオンラインのトップページへ

記事のレビュー・コメント投稿機能は会員の方のみご利用いただけます

レビューを投稿する

この記事は参考になりましたか?
この記事をお薦めしますか?
読者レビューを見る

コメントを書く

ビジネストレンド

ビジネストレンド一覧

閉じる

いいねして最新記事をチェック

日経ビジネスオンライン

広告をスキップ

名言~日経ビジネス語録

現在の携帯電話は、昔の電話と比べて100倍豊かでしょう。クルマもきっとそうなります。

ジェンスン・フアン エヌビディア創設者兼CEO(最高経営責任者)