世界・オブ・心理学ブログ

FacebookでさえFacebookのアルゴリズムを理解していない

Facebookのニュースフィード（電話またはラップトップからFacebookにログインしたときに表示されるコンテンツ）の好意による「偽のニュース」のスペクタクルによるすべての手書きの後に、1つのことが明らかになった。 FacebookでさえFacebookを理解していません。

そしてそれは、何百人もの異なる開発者やプログラマーによって何年にもわたって構築された（より正確には、統合された）アルゴリズム人工知能（AI）に依存することの問題です。

最近のHealtheVoices 2017のカンファレンスで学んだことや、Farhad ManjooによるFacebookに関する優れた記事を読んだ後、過去数日間ですべてが明らかになりました。 New York Times Magazine.

カンファレンスでは、Facebookの代表者が、彼らが健康活動家や擁護者として書いたものが他の人のFacebookニュースフィードに浮上することはめったになかった理由について、やや不満（そして時には敵対的）の質問者に直面しました。その日の聴衆の人々は、それがエンゲージメントを獲得したように思われた唯一の方法は、Facebookを通じて（投稿の「ブースト」と呼ばれる有料メカニズムを介して）それを購入することであったと述べた。

Facebookの担当者は、一見高品質で優れたコンテンツがニュースフィードで紹介されていない理由について、これらの質問に答えることができませんでした。それでも、私が話したすべての参加者—情熱的で熱心な医療擁護者—は、それをFacebookの問題と見なしていました。しかし、フェイスブックでさえそれを修正する方法を説明することができませんでした。

それは当然です。タイムズマガジンの記事は、その「理由」を明らかにしています。ただし、Facebookニュースフィードアルゴリズムは、ユーザーが初めてFacebookをロードするたびに、および更新のたびに、平均して2,000の可能なコンテンツをソートします。

その複雑で暗い、独自のソートアルゴリズムには非常に多くの変数があり、Facebookでさえ、誰かのニュースフィードに何かが表示される、または表示されない理由に答えることができません。これは、ウェブマスターがGoogleとその検索インデックス作成アルゴリズムを扱う際に長い間感じてきたのと同じような痛みです。

人々のニュースフィードへのアクセス権を購入するだけでアルゴリズムを簡単に回避できるという事実は驚くことではありません。これは、Facebookが毎年多くのお金を稼いでいる理由の大部分です。最も品質の低いコンテンツでさえ、パーソナライズされたと思われるニュースフィードを利用することができます。

ニュースフィード：まだ作業中です

長年の努力、注意、開発者の時間、そしてこのアルゴリズムの研究を経て、いくつかの基本的なことが正しくなると思います。しかし、最近の2つの逸話は、Facebookの称賛されたAIがいかにさらに先に進んでいなければならないかを示しています。

1つ目は、2017年4月下旬にFacebookのニュースフィードを手に入れたコンサートのミームです。このミームでは、参加者は生涯で参加した10のコンサートをリストしますが、そのうちの1つは偽物です。出席していない偽のコンサートを見つけてコメントするかどうかは、その人の友達次第です。

このポップアップを最初に目にしたときの私の最初の考えは、「誰が気にするの？」率直に言って、友達がどんなコンサートに参加したか気にしないからです。「私たちが見たコンサート」のトピックについて友達と実際に会話をしていたら、それはクールかもしれません。しかし、会話のスターターとして、私はそれが異常なため、社会的に関連しているため、それは無意味だとわかりました 何もない。そこで、ニュースフィードで最初に見た投稿から[この投稿を非表示]をクリックしました。

これは、今後数日間、このコンテンツがニュースフィードに流入するのを防ぐのに役立ちましたか？ 1つのイオタではありません。次の2日間で少なくとも12の質問が表示され、フィードが殺到しました（少なくとも2つ以上の[この投稿を非表示]をクリックした後も）。それらすべては私にとって全く興味がありませんでした。 FacebookのAIが機能するためにはこれで終わりです。

2つ目はブルーム郡です。私は大ファンで、Berkeley Breathedが再び描き始めたときは喜びました。彼の新しいコミックが私のフィードに現れるのを毎日楽しみにしています。不思議なことに、Facebookにはこれについての手がかりがありません。数週間前に彼の漫画を表示するのをやめましたが、拡大した形で読みやすくするために、私はそれらのほとんどをクリックしました。

クリック数が多いと、「興味がないので、このユーザーに表示しない」というタグになるのはなぜですか。 Facebookは、個々のユーザーにとってニュースフィードアルゴリズムが実際にどのように機能するか、または機能しないかわからないため、必要に応じてこの質問に答えることができませんでした。それほど大したことでなければ、これはおかしいでしょう。ピューリサーチセンターによると、アメリカ人の半数以上がFacebookからニュースを受け取っています。

ユーザーにほとんどフィードバックを提供しないフィードバックフォーム

Facebookは、ユーザーがフィードバックフォームをより頻繁に使用した場合、多くの問題を評価（および修正）できると主張しています。しかし、ユーザーがFacebookフィードバックを提供することを嫌う理由があります。フィードバックシステムは、吸う.

Facebookのフィードバックフォームは、ユーザーにそれ自体のフィードバックをほとんど提供しません。代わりに、ユーザーに一連の「自分でこれを修正する方法を説明します」という一連の質問を提示します。修正— Facebookではありません。これらのフォームの最後に人間はなく、あなたが受け取る人間の反応もありません。これがまさに非人道的な定義です。「グローバルコミュニティを構築する」ことですべての人をより社会的につなぐと考える企業にとって皮肉なことです。ユーザーとの人間の接触を避けながら、企業はこれをどのように行うことができますか？1

AIは非常に複雑であり、人間は支援する必要がある

多くの開発者は、十分な変数、データセット、および調整が与えられていれば、AIは人間の問題をほとんど解決できると自負しています。しかし、Facebookが明らかに示しているのは、ニュースフィードの問題を解決するためにFacebookが行っていることは何であれ、AIは多くの人々にとってうまく機能していないということです。

Facebookが耳を傾けているように感じる人は誰もいない。すでに述べたように、会議で話し合った健康擁護者と活動家は、彼らの意見は聞いていないと述べました。 Facebookのようなソーシャルメディア企業は気にしていないようです。また、ニュースパブリッシャー向けの非公開のFacebookグループで、尊敬されるニュース組織の多くが、報奨金を支払わずにFacebookで綿密な調査ジャーナリズム記事を苦しめているという不満を毎日聞いています。その間、さわやかな「夏の日への5つの驚くべき、迅速かつ簡単な方法」使い捨ての記事は、トランプのGoogleが「どうすれば修正できるか」というクエリを検索するよりもヒット数が多くなります。

今日のAIの分割ショット

Appleの称賛されたSiriは、今日の現代の世界で機能するAIの有用な例としてしばしば支持されています。しかし、私がこの記事を書いているときに、「Hey Siri、私は彼女を愛しているとナンシーに話します」と言いました。

Siriは、彼女の無限の知恵で、メッセージの受信者を正しくしました（幸い、私は1つだけのナンシーを知っているので）。しかし、彼女が送ったテキストは「私は彼女を愛しています」でした。 Siriは明らかに私の文の実際の意味を理解しておらず、代わりに初歩的なフィルターを使用して、「私は彼女を愛している」という文字通りのメッセージを含む連絡先の人にテキストを送信したいと考えました。

これは、Facebook、Google、Appleなどの大手テクノロジー企業で今日私たちが取り組んでいるAIのレベルです。多少便利ですが、その品質と実装に不満が生じています。

Facebookがこれを理解してくれることを本当に望みます。なぜなら、毎日自分との関連性がますます低くなるにつれて、私は毎日それをますます使用しなくなっているからです。 実際の関心 そして日常生活。今日は少数派かもしれませんが、Facebookがこれらの関連性と関心の問題をすぐに解決しなければ、状況は変わると思います。

脚注：