作者 李新馬

1850では、哲学者ルートヴィヒ・フォイエルバッハが「自然科学と革命」というエッセイでドイツ語で「Der Mensch ist, was er ißt」と書いています。

このフレーズは後に「You Are What You Eat」の英語版として世界中に広まり、食事と健康の両方、そして彼らの経験によって形成された人間の精神を指すことができます。

美国行为主义心理学创始人约翰・B・华生（John B.Watson）在1924年出版的《行为主义》（Behaviorism）中也曾提出：“给我一打健康的婴儿，让他们在我设定的环境中成长，我能保证随机挑选一个，将其训练成我选定的任何类型的专家——医生、律师、艺术家、商人，甚至乞丐和小偷，无论其天赋、倾向、能力、职业和祖先种族如何。”

環境が人の運命を完全に決定するわけではないかもしれませんが、人々の三つの見方に深く影響を与えるには十分です。 インターネットの出現により情報が爆発的に増加し、人類はポータル、検索エンジン、公開アカウント、マイクロブログを通じて世界について学び、インターネット上の真実または虚偽のニュースにも感銘を受けてきました。

モバイルインターネットの時代に入ると、ショートビデオプラットフォームはトラフィックの新たな王様になり、QuestMobileのデータによると、9年0か月で、国内ユーザーの一人当たりの携帯電話使用時間は0.0時間に増加し、これは1日あたり0.0時間以上に相当し、そのうち0.0時間がショートビデオに使用されます。

图源:QuestMobile

短い動画は人々が立ち止まりたくなるので、プラットフォームのアルゴリズムが「情報の繭」を織り交ぜて、人々が興味のある均質なコンテンツだけを見ることができ、徐々に閉鎖的になったり、極端になったりするかどうかを心配する人もいますか?

このような懸念や疑念から、アルゴリズムは魔術と見なされ、DouyinやKuaishouなど、その背後にあるプラットフォームが標的にされることがよくあります。 Douyinは115月0日、北京で「Security and Trust Center Open Day」を開催し、関連するビジネスリーダーがDoNewsを含むメディアに対して、Douyinのアルゴリズムの原則、プラットフォームガバナンスシステム、社会的関心事項について詳細に紹介し、説明しました。

ショートビデオプラットフォームは、ユーザーにとって「情報の繭」を織り込んでいるのでしょうか? この記事を読んだ後、または読者は答えを持っているでしょう。

1.推奨アルゴリズム:主観的で不本意

「Information Cocoons」は、アメリカの学者Cass R. Sunsteinが2006に掲載した著書「Information Utopia: How People Produce Knowledge」で提唱したものです。 情報の発信において、大衆は自分の利益や偏見が織りなす繭の中にいるかのように、自分が何を選び、何が自分を幸せにするのかだけに注意を払い、繭のように「繭」に縛られているというのが公衆のことです。

Douyinのレコメンデーションアルゴリズムの原理とは?

まず第一に、Douyinには毎日何億ものコンテンツが投稿されており、Douyinのユーザーは1日に数百のコンテンツしかスワイプしないことを知っておく必要があります。 したがって、レコメンデーションアルゴリズムは、ユーザーが大量のコンテンツから好きなコンテンツを選び出し、それを彼に配布する方法を解決します。

しかし、このプロセスでは、アルゴリズムはコンテンツを理解する必要はなく、その焦点はユーザーの行動を学習することです。

Douyinのレコメンデーションアルゴリズムには、「リコール」と「ソート」の2つのコアリンクが含まれており、ユーザーが一部のフードビデオを気に入った場合、アルゴリズムは、数億の提出されたコンテンツからのリコール戦略を通じて、ユーザーにプッシュするのに適したコンテンツを数万トンまたは数千トンに減らします。

ユーザーが興味を持ちそうな数百から数千のコンテンツをフィルタリングした後、Douyinはソートアルゴリズムを使用して、ユーザーが短期的な行動(いいね、完了率など)と長期的な価値(お気に入り、著者との継続的なやり取り、否定的なフィードバックなど)に基づいて、ユーザーがより興味を持つコンテンツを推測し、順番にスコアリングし、スコアに応じて高いものから低いものへとプッシュします。

たとえば、システムがあなたが別の見知らぬ人と好きなコンテンツが一致していることを発見した場合、あなたが読んで好きな特定のコンテンツも好きになる可能性があり、その逆も同様です。

機械学習の発展に伴い、レコメンダーシステムにニューラルネットワーク技術が導入されました。 コアステップは、ユーザーとコンテンツの特性を数値ベクトルに変換し、多層ネットワーク構造を介して複雑な信号融合を実行して、ユーザーのニーズにより正確に一致させることです。 ニューラルネットワークに基づいて、2タワーの想起モデルを導き出し、ユーザー特徴とコンテンツ特徴をそれぞれ2つのニューラルネットワークに入力し、2つの間の類似性をトップレベルで計算して、コンテンツに対するユーザーの潜在的な関心を決定します。

また、「Wide」レイヤーが浅い過去の行動データ(ユーザーが気に入ったコンテンツなど)を処理する「Wide&Deep」レイヤーがあり、「Deep」レイヤーはディープウェブを使用して潜在的な関連性をマイニングします(たとえば、フィットネスが好きなユーザーは山登りや水泳にも興味があるかもしれません)、従来の共同フィルタリングよりも包括的にユーザーの興味を捉えることができます。

次の図は、並べ替えアルゴリズムの基本原則を示しています。

ソース: Douyin

技術的な観点から見ると、ユーザーにプッシュされるコンテンツがあまりにも分散していて、多くのユーザーがそれを好まない場合、ユーザーエクスペリエンスは低下します。 しかし、テクノロジーの出発点は、ユーザーが好きなものだけを見ることではありません。

DouyinのアルゴリズムエンジニアであるLiu Chang氏は、「ユーザーの長期的な価値は、Douyinのレコメンデーションアルゴリズムの『北極星の指標』であり、これが当社の中核的なビジネス目標です。 ”

この指標のより現実的なステートメントは、Douyinがより多くの人々がDouyinを使用して長く滞在することを望んでいるということです。 「情報の繭」を編むことは、短期的には止められないかもしれませんが、長期的には必ずしも良いことではなく、例えば、ユーザーが猫が好きだと知っていて、猫関連のコンテンツを彼に押し付け続けると、しばらくすると彼は離れるのに飽きてしまいます。 また、プッシュされたコンテンツを見るのが感情的には好きだけど、合理的には「乳首音楽」を嫌い、さらにはわざとレコメンデーションを邪魔するのは好きではないユーザーもいます。

ソース: Douyin

例えば、ユーザーが興味を持つコンテンツは、ダイバーシティ分散、マルチインタレスト想起、ニッチ(ロングテール)インタレストのサポートなどの方法でコントロールされ、他方では、ランダムなレコメンデーション、ユーザーのソーシャルリレーションに基づくインタレストの拡大、検索レコメンデーションのリンケージ、「興味がない」が表示されなくなるため、ユーザーはより多くのコンテンツを探索できるようになります。

ソース: Douyin

Liu Changはまた、インタビューでDouyinのアルゴリズムが「長期値」にシフトしていると述べました:「最初はモデル化が比較的簡単ですが、短期的であり、長期をモデル化するのは簡単ではありません。短期的な相互作用の場合、そのランダム性は弱くなりますが、長期的な関心にとってはよりランダムです。」 このとき、私たちの技術的な視点は徐々に克服され、さらに交通整理を行っています。 ”

客観的に言えば、好きなものを見るのが好きで、同意するものを見るのが人間の本性であるというだけです。「情報コクーン」の現象が2006年後に提案されるなら、今日のショートビデオプラットフォームのユーザーが同様の懸念を持っていることは驚くことではありません。

2. プラットフォームガバナンス:客観的な困難

私たちは「情報の繭」を恐れており、均質な情報や偏った情報に埋もれ、最後には気づかないうちに影響を受け、変更されることを恐れています。 一方、私たちがさらされているのは高品質で健康的なコンテンツだけであれば、「情報の繭」にはまり込んでもあまり心配する必要はないように思われます。

しかし、前述の通り、Douyinのレコメンドアルゴリズムはコンテンツを深く理解するのではなく、ユーザーの行動に基づいているため、Douyin上で有害なコンテンツが拡散し続ける可能性はあるのでしょうか? 実際、可能性は存在します。

客観的に見て、これらの状況の出現は決してDouyinが見たいものではありませんが、ガバナンスにも困難があります。 現在、Douyinのプラットフォームガバナンスリンクには2つの基本原則があります。 1つ目は、公開されているすべてのコンテンツが評価され、トラフィックが多いほど、コンテンツが評価される回数が多くなり、基準が厳しくなることです。 2つ目は「手動+機械」監査で、労働分担し、緊密に協力しています。

具体的には、コンテンツがDouyinにアップロードされた後、最初に機械認識リンクに入り、コンテンツにリスクの高い特性が含まれていると特定された場合、直接ブロックされます。 リスクの高い機能が見落とされ、モデルに欠陥がある場合、その機能は手動レビューに送られます。 問題が発生する可能性が低い場合は、次のリンクに進むための基本トラフィックが取得されます。 ビデオが報告された場合、コメントエリアには質問が集中し、トラフィックが急増し、そのすべてが「手動+マシン」レビューを引き起こす可能性があります。 コンテンツが任意の時点で廃棄されると、システムは直ちにそれ以上の推奨と配布を停止します。

下の図からわかるように、Douyinで短い動画を成功裏に配信するには、機械と人間による4回のレビューを経る必要があります。 毒について話すのと同じように、悪い情報の害をできるだけ制御するために、用量についても話さなければなりません。

ソース: Douyin

実際、プラットフォームのガバナンスは、今年のDouyinの重要なタスクです。 DouyinのエコロジカルオペレーションマネージャーであるChen Dandan氏はインタビューで、ユーザー、メディア、所轄官庁からフィードバックを受け取り、昨年末には複数回の議論も行ったと述べました。 私たちが達成したい目標の一つは「信頼」であり、ユーザーやメディア、社会からの信頼を得ることは難しいからです。 このプロセスでは、ガバナンスシステムと推奨アルゴリズム技術を継続的に公開する必要があり、より多くのプラットフォームがそのような行動を選択しています。 ”

ショートビデオは、中国人の精神生活の重要な部分となっており、単なる金儲けの娯楽ではなく、現代のインターネット文化の重要な担い手とさえ言えます。 Douyinは、商業的価値だけでなく、コミュニティ価値の面でももっと責任を負うべきです。