Li Xinma tarafından yazıldı.

1850'da filozof Ludwig Feuerbach, "Doğa Bilimi ve Devrim" adlı makalesinde Almanca olarak şunları yazdı: "Der Mensch ist, was er ißt."

İfade daha sonra "You Are What You Eat"in İngilizce versiyonu olarak dünyaya yayıldı ve hem diyet hem de sağlığa ve aynı zamanda deneyimleriyle şekillenen insan ruhuna atıfta bulunabilir.

美国行为主义心理学创始人约翰・B・华生（John B.Watson）在1924年出版的《行为主义》（Behaviorism）中也曾提出：“给我一打健康的婴儿，让他们在我设定的环境中成长，我能保证随机挑选一个，将其训练成我选定的任何类型的专家——医生、律师、艺术家、商人，甚至乞丐和小偷，无论其天赋、倾向、能力、职业和祖先种族如何。”

Çevre, bir insanın kaderini tamamen belirlemeyebilir, ancak insanların üç görüşünü derinden etkilemek için yeterlidir. İnternetin ortaya çıkışı bilgi patlamasına neden oldu ve insanlar portallar, arama motorları, resmi hesaplar, mikrobloglar vb. aracılığıyla dünya hakkında bilgi edindi ve ayrıca İnternet'teki doğru veya yanlış haberlerden etkilendi.

Mobil İnternet çağına girerken, kısa video platformları trafiğin yeni kralı haline geldi, QuestMobile verilerine göre, 9 yıl 0 ay, ev içi kullanıcıların kişi başına aylık ortalama cep telefonu kullanım süresi 0.0 saate yükseldi, bu da günde 0.0 saatten fazla denk geliyor ve bunun 0.0 saati kısa videolar için kullanılıyor.

图源:QuestMobile

Kısa videolar insanların durmak istemesine neden oluyor, bu nedenle bazı insanlar platformun algoritmasının bir "bilgi kozası" örüp örmediği konusunda endişeleniyor, böylece insanlar yalnızca ilgilendikleri homojen içeriği görebiliyor ve yavaş yavaş kapanıyor ve hatta aşırıya mı kaçıyorlar?

出于这样的担忧和质疑，算法被视为巫术，背后的平台如抖音、快手也经常成为众矢之的。4月15日，抖音在北京举办了“安全与信任中心开放日”活动，由相关业务负责人就抖音算法原理、平台治理体系以及社会关切的问题，向包括DoNews在内的广大媒体展开了详细介绍和澄清。

Kısa video platformu kullanıcılar için bir "bilgi kozası" örüyor mu? Bu makaleyi okuduktan sonra, ya da okuyucunun bir cevabı olacaktır.

1. Öneri algoritması: öznel ve isteksiz

"Bilgi Kozaları", Amerikalı bilim adamı Cass R. Sunstein tarafından 2006'da yayınlanan "Bilgi Ütopyası: İnsanlar Nasıl Bilgi Üretir" adlı kitabında önerilmiştir. Bilginin yayılmasında halkın, kendi çıkarları ve önyargıları tarafından örülmüş bir kozanın içindeymiş gibi, sadece neyi seçtiklerine ve onları neyin mutlu ettiğine dikkat etmesini, böylece yaşamlarının bir koza gibi bir "koza" içinde zincirlenmesini ifade eder.

Douyin'in öneri algoritmasının prensibi nedir?

Her şeyden önce, Douyin'e her gün yüz milyonlarca içerik gönderildiğini ve bir Douyin kullanıcısının günde yalnızca birkaç yüz içerik kaydıracağını bilmeliyiz. Bu nedenle, öneri algoritması, kullanıcının beğendiği içeriğin büyük içerikten nasıl seçileceğini ve ona nasıl dağıtılacağını çözer.

Ancak bu süreçte algoritmanın içeriği anlamasına gerek yoktur, odak noktası kullanıcının davranışını öğrenmektir.

Douyin'in öneri algoritması iki temel bağlantı içerir: "geri çağırma" ve "sıralama", kullanıcılar bazı yemek videolarını beğendiğinde, algoritma, yüz milyonlarca gönderilen içerikten bir geri çağırma stratejisi aracılığıyla kullanıcılara itmek için uygun içeriği on binlerce hatta binlerce tona indirecektir.

Kullanıcıların ilgilenebileceği yüzlerce ila binlerce içeriği filtreledikten sonra Douyin, kullanıcıların kısa vadeli davranışlarına (beğeniler, tamamlama oranı vb.) ve uzun vadeli değerlerine (favoriler, yazarlarla sürekli etkileşim, olumsuz geri bildirimler vb.) dayalı olarak hangi içerikle daha çok ilgileneceğini tahmin etmek için bir sıralama algoritması kullanacak ve ardından bunları sırayla puanlayacak ve ardından yüksekten düşüğe doğru itecektir.

Örneğin, sistem başka bir yabancıyla beğendiğiniz içeriğin çakıştığını tespit ederse, okuduğunuz ve beğendiğiniz belirli bir içeriği de beğenebilir ve bunun tersi de geçerlidir.

Makine öğreniminin gelişmesiyle birlikte, sinir ağı teknolojisi öneri sistemlerine tanıtıldı. Temel adım, kullanıcıların ve içeriğin özelliklerini sayısal vektörlere dönüştürmek ve kullanıcı ihtiyaçlarını daha doğru bir şekilde karşılamak için çok katmanlı bir ağ yapısı aracılığıyla karmaşık sinyal füzyonu gerçekleştirmektir. Sinir ağına dayalı olarak, iki kuleli bir geri çağırma modeli türetilir ve kullanıcı özellikleri ve içerik özellikleri sırasıyla iki sinir ağına girilir ve kullanıcıların içeriğe olan potansiyel ilgisini belirlemek için ikisi arasındaki benzerlik en üst düzeyde hesaplanır.

Ayrıca, "Geniş" katmanın sığ geçmiş davranış verilerini (kullanıcıların beğendiği içerik gibi) işlediği Geniş ve Derin katmanı da vardır ve "Derin" katman, potansiyel ilişkilendirmeleri araştırmak için derin ağı kullanır (örneğin, fitness'ı seven kullanıcılar dağlara tırmanmak ve yüzmeye de ilgi duyabilir), bu da kullanıcı ilgi alanlarını geleneksel işbirlikçi filtrelemeden daha kapsamlı bir şekilde yakalayabilir.

Aşağıdaki diyagramda sıralama algoritmasının temel ilkeleri gösterilmektedir.

Kaynak: Douyin

Teknik açıdan bakıldığında, kullanıcılara iletilen içerik çok farklıysa ve birçok kullanıcı bundan hoşlanmıyorsa, kullanıcı deneyimi bozulacaktır. Ancak teknolojinin çıkış noktası, kullanıcıların sadece neyi sevdiklerini görmelerine izin vermek değildir.

Douyin'de bir algoritma mühendisi olan Liu Chang şunları söyledi: "Kullanıcıların uzun vadeli değeri, temel iş hedefimiz olan Douyin'in öneri algoritmasının 'Kuzey Yıldızı göstergesi'dir. ”

Bu göstergenin daha gerçekçi ifadesi, Douyin'in daha fazla insanın Douyin'i kullanmasını ve uzun süre kalmasını ummasıdır. Bir "bilgi kozası" örmek, insanları kısa vadede duramaz hale getirebilir, ancak uzun vadede mutlaka iyi bir şey değildir, örneğin, bir kullanıcının kedileri sevdiğini biliyorsanız ve ona kediyle ilgili içeriği zorlamaya devam ederseniz, bir süre sonra ayrılmaktan yorulacaktır. Ayrıca, itilen içeriği duygusal olarak izlemekten hoşlanan, ancak rasyonel olarak "meme ucu müziğinden" nefret eden ve hatta tavsiyeyi rahatsız etmek için kasıtlı olarak hoşlanmayan kullanıcılar da var.

Kaynak: Douyin

Örneğin, bir yandan kullanıcıların ilgi duyduğu içerikler çeşitlilik dağılımı, çoklu ilgi alanı hatırlama ve niş (uzun kuyruklu) ilgi alanlarına destek gibi yöntemlerle kontrol edilirken, diğer yandan rastgele öneriler, kullanıcıların sosyal ilişkilerine dayalı genişleyen ilgi alanları, arama önerisi bağlantısı ve "ilgilenmiyorum" artık görüntülenmez, böylece kullanıcılar daha fazla içerik keşfedebilir.

Kaynak: Douyin

Liu Chang ayrıca röportajda Douyin'in algoritmasının "uzun vadeli değere" geçtiğini söyledi: "Başlangıçta modellemek nispeten kolay, ancak kısa vadeli ve uzun vadeli modellemek kolay değil, kısa vadeli bir etkileşim için rastgeleliği daha zayıf, ancak uzun vadeli faiz için daha rastgele." Şu anda teknik bakış açımız yavaş yavaş aşılıyor ve trafik kontrolünü daha da yapıyoruz. ”

Sadece, nesnel olarak konuşursak, neyi sevdiğinizi ve neye katıldığınızı izlemeyi sevmek insan doğasıdır, eğer "bilgi kozası" olgusu 2006 yıl içinde öneriliyorsa, o zaman günümüzün kısa video platformlarının kullanıcılarının da benzer endişeleri olması şaşırtıcı değildir.

2. Platform yönetişimi: nesnel zorluklar

"Bilgi kozasından" korkuyoruz ve homojen ve hatta önyargılı bilgilere batırılmaktan ve nihayet belli belirsiz bir şekilde etkilenmekten ve değiştirilmekten daha çok korkuyoruz. Öte yandan maruz kaldığımız tek şey kaliteli ve sağlıklı içerikse, bir "bilgi kozasına" takılıp kalsak bile çok fazla endişelenmememiz gerekiyor gibi görünüyor.

Bununla birlikte, daha önce de belirtildiği gibi, Douyin'in öneri algoritması, içeriğin derinlemesine anlaşılmasından ziyade kullanıcı davranışına dayanmaktadır, bu nedenle zararlı içeriğin Douyin'de yayılmaya devam etme olasılığı var mı? Aslında, olasılık var.

Objektif olarak, bu durumların ortaya çıkması kesinlikle Douyin'in görmek istediği şey değil, ancak yönetişimde de zorluklar var. Şu anda, Douyin'in platform yönetişim bağlantısının iki temel ilkesi vardır. Birincisi, yayınlanmakta olan tüm içeriğin değerlendirileceği ve trafik ne kadar yüksek olursa, içeriğin o kadar çok değerlendirileceği ve standartların o kadar katı olacağıdır. İkincisi, emeğe bölünen ve yakından işbirliği yapılan "manuel + makine" denetimidir.

Özellikle, içerik Douyin'e yüklendikten sonra, önce makine tanıma bağlantısına girecek ve içeriğin yüksek riskli özellikler içerdiği belirlenirse doğrudan engellenecektir. Yüksek riskli bir özellik gözden kaçırılırsa ancak model hatalıysa, manuel incelemeye gönderilecektir. Sorunun oluşma olasılığı düşükse, bir sonraki bağlantıya geçmek için temel trafik elde edilir. Video bildirilirse, yorum alanında yoğun sorular varsa ve trafikte bir artış varsa, vb. "manuel + makine" incelemesini tetikleyebilir. İçerik herhangi bir noktada imha edildiğinde, sistem daha fazla öneri ve dağıtımı hemen durdurur.

Aşağıdaki şekilde de görebileceğiniz gibi, kısa bir videonun Douyin'de başarılı bir şekilde dağıtılması için, makineler ve insanlar tarafından dört incelemeden geçmesi gerekir. Tıpkı zehir hakkında konuşur gibi, kötü bilginin zararını mümkün olduğunca kontrol etmek için doz hakkında konuşmalıyız.

Kaynak: Douyin

Aslında, platform yönetişimi bu yıl Douyin'in temel görevidir. Douyin'in ekolojik operasyon müdürü Chen Dandan, bir röportajda kullanıcılardan, medyadan ve yetkili makamlardan geri bildirim aldıklarını ve geçen yılın sonunda çok sayıda tartışma turundan geçtiklerini söyledi: "Gerçekten de platform yönetişimi ve algoritma şeffaflığını yıl boyunca odak noktası haline getirdik. Ulaşmak istediğimiz hedeflerden biri güvendir, çünkü kullanıcıların, medyanın ve toplumun güvenini kazanmak zordur. Bu süreçte, yönetişim sistemini ve öneri algoritması teknolojisini sürekli olarak herkese açık hale getirmemiz gerekiyor ve daha fazla platform bu tür eylemleri seçti. ”

Kısa videolar, Çin halkının manevi yaşamının önemli bir parçası haline geldi ve hatta sadece eğlence için para kazanmaktan ziyade çağdaş İnternet kültürünün önemli bir taşıyıcısı olduğu söylenebilir. Douyin, ticari değerin yanı sıra toplum değeri açısından da daha fazla sorumluluk almalıdır.