Text | New Berry Daybreak, Autor | He Lingzheng, Hrsg. Zhai Wenting
Eine Einschränkung der AIGC-Arbeit fegt in großem Umfang durch verschiedene Plattformen.
Einige AIGC-Schöpfer haben Gruppen auf Xiaohongshu gegründet, um ihre Erfahrungen mit der Einschränkung zu teilen. Jemand, der 12 Konstellationsinhalte gepostet hatte, wurde als "Verbreitung von feudalem Aberglauben" beurteilt, und jemand stieß aufgrund der Generierung von KI-Sternen auf eine "Verstoß"-Aufforderung. "Fiktive Ereignisse" und "Nachahmung realer Personen" sind die am häufigsten genannten Strafgründe.
Die gleiche Situation ereignete sich auch auf den Kanälen und in Douyin, wo eine große Anzahl von AIGC-Werken entfernt und verboten wurde. Selbst wenn das Werk nicht verboten wird, wird es von der Exposition im Verkehr und von kommerziellen Rechten eingeschränkt.
Viele Menschen spekulieren, dass diese Regulierungsrunde mit den "Maßnahmen zur Identifizierung von künstlich intelligenzgenerierten und synthetischen Inhalten" zusammenhängen könnte, die auf 1 und 0 umgesetzt werden. Die Maßnahmen verlangen, dass alle AIGC-Inhalte explizit (z. B. Textansagen, Eck-Tags, Sprachanweisungen) und implizit (z. B. Metadaten, digitale Wasserzeichen) gekennzeichnet sind.
Es gibt jedoch immer noch Urheber, die berichten, dass die mit KI-Wasserzeichen markierten Werke immer noch nicht normal behandelt werden.
Während sie die KI-Entwicklung fördert, schränkt sie auch die KI ein.
Diese Ambivalenz der Plattform lässt die Schöpfer verwirrt und verwirrt zurück. Sie stellen die Regeln nicht wissentlich in Frage, sie wissen einfach nicht, wo die Grenzen und roten Linien liegen, und sie wissen nicht, wo die Zukunft liegt.
AIGC-Schöpfer Lin Cong war in letzter Zeit ein wenig genervt.
Die beiden KI-Charaktervideos, die sie auf dem Videokonto gepostet hatte, wurden direkt deaktiviert, da sie als nicht-reale Personen eingestuft wurden, und die Videoempfehlungs-, private Nachrichten- und Kommentarfunktionen wurden direkt deaktiviert.
Entsprechend den Anforderungen reichte Lin Cong eine detaillierte Überprüfung der persönlichen Identität ein, wählte die KI-Produktionsoption aus und reichte das entsprechende Mobiltelefon ein, um Screenshots zu erstellen. Das System antwortete, dass die Informationen nicht detailliert genug seien, um den Produktionsprozess nachzuweisen.
Obwohl sie innerlich etwas zögerlich war, folgte sie dennoch den Anweisungen und reichte die Screenshots aller wichtigen Produktionsprozesse auf der PC-Seite erneut ein. Diese Überprüfung ist bestanden und das System fragt Sie: Wählen Sie nach der Veröffentlichung von KI-generierten Inhalten "Der Inhalt wurde von KI-Technologie erstellt, bitte seien Sie vorsichtig bei fiktionalen Inhalten" und andere Aufforderungen.
Bei dieser Überprüfung wird jedoch nur die Videokommentarfunktion wiederhergestellt, und wenn Sie die Direktnachrichtenfunktion wiederherstellen möchten, müssen Sie alle KI-generierten Inhalte löschen und den Antrag erneut einreichen.
Das Löschen des Werks ist gleichbedeutend mit dem Löschen ihrer persönlichen Visitenkarte, was für sie ein wenig inakzeptabel ist, so dass ihre Funktion für private Nachrichten bisher nicht wiederhergestellt wurde.
Trotzdem ist Lin Cong der Meinung, dass in dieser Welle der Überwachung von KI-Arbeiten das Videokonto nicht die strengste Plattform ist. Sie sagte gegenüber Xinberry Daybreak: "Es scheint, dass es keine Auswirkungen gibt, außer dass Kuaishou das KI-Logo markiert, und mehrere große Videoplattformen überprüfen die von KI erstellten Werke."
林聪不是个例。小红书关于AI限流的笔记数量超过3万篇。从流量曝光，商业权益限制，到产品被下架，涉及不同程度的封禁。
Die Kurzvideoplattform ist in vollem Gange, und die Aktion des Online-Literaturkreises ist eigentlich früher.
今年2月，晋江打出「反AI」的第一枪，发布了《关于AI辅助写作使用、判定的试运行公告》，明确规定使用AI的边界。接着，起点、番茄小说宣布全面禁止AI，要求作品必须100%人工创作。
Die starke Korrektur von Online-Textplattformen hat zu vielen Fehleinschätzungen geführt. Auch wenn im Kommentarbereich "es fühlt sich an, als wäre es von einer KI geschrieben worden" erscheint, kann es sein, dass es vom Redakteur dauerhaft blockiert wird.
Auch der E-Commerce hat sich den Reihen angeschlossen, um das "KI-Fake-Image" zu korrigieren.
3月27日，淘宝修订了《淘宝网商品发布规范》和《天猫商品发布规范》，对「商品失真」做出明确的拓展解读。其中一个重点的指向，便是利用AI等技术合成方式，呈现显著失真的与实际不符的商品信息效果图。
Die Intensität der Korrektur ist beispiellos, und es herrscht eine große Entschlossenheit, "Fehler lieber zu töten als loszulassen".
In den letzten zwei Jahren haben unter der Erzähllogik von "KI wird reich" und "super individuell" "One-Click-generierte" Inhalte das Internet rasant überflutet.
Einige Leute nutzen KI, um Kurse zu verkaufen, und andere Menschen nutzen digitale KI-Menschen, um Three-No-Produkte zu verkaufen. Auf Taobao hat eine große Anzahl von KI-generierten Verkäufershows die Verbraucher zum Kauf verleitet, was dazu führte, dass die Produkte in der Hand nicht ernsthaft mit den Bildern übereinstimmten. KI-Chaos, das Geräusch der KI-Verschmutzung ist endlos.
Laut Lin Congs Beobachtung geht es in dieser Runde der KI-Content-Governance vor allem gegen homogene und wenig originelle Inhalte vor. "Jetzt, mit KI, wird jeder, der einen beliebten Inhalt hat, ihn schnell und in großen Mengen kopieren."
Ein typisches Beispiel ist, dass nach der Explosion von "Nezha" während des chinesischen Neujahrsfestes in diesem Jahr in Douyin eine große Anzahl von Nachfolgeproduktionen von Nezha zu sehen war. Diese Art von Genre verwendet oft ähnliche Eingabeaufforderungen oder Inhalte, die von derselben Lora generiert wurden.
AI也让一些机构的起号成本变低了，利用AI工具一天内可以生成了上百篇引发矛盾对立的笔记。小红书去年三个月里处置了超过100万个黑灰产团伙，均为通过超大规模矩阵生成同质化内容。
Zu diesem Zweck geht Douyin von der Algorithmusebene aus und bezieht die "ursprüngliche Erkennungsrate" als Kernindikator mit ein, und wenn der KI-generierte Inhalt nicht gekennzeichnet ist oder eine Homogenität aufweist, "wie z. B. eine Wiederholungsrate von mehr als 25 %", wird er als minderwertiger Inhalt bewertet. Das Videokonto verbietet eindeutig "die Batch-Veröffentlichung von homogenen Inhalten, die durch ähnliche Szenarien, Texte, Elemente usw. erstellt wurden".
Eine weitere Richtung, in der sich die Plattform auf die Berichtigung konzentriert, besteht darin, dass das fiktive Bild und die Handlung der realen Person falsch und übertrieben sind.
Aus Sicht der Plattform ist das nicht schwer zu verstehen. Schließlich basiert Xiaohongshu auf "echtem Teilen", und die Kanäle müssen die Glaubwürdigkeit der Informationen in der sozialen Beziehungskette sicherstellen.
Aus diesem Grund begann Xiaohongshu im vergangenen Jahr mit der Entwicklung eines KI-Erkennungsmodells, das auf der "Klassifikator"-Technologie basiert, um Inhalte zu markieren, die als vermutlich KI-generiert identifiziert wurden. Um den Effekt zu konsolidieren, hat Xiaohongshu auch eine doppelte Barriere aus maschineller Erkennung und menschlicher Überprüfung eingerichtet.
Aus der Sicht des Schöpfers ist das etwas hilflos.
Da die Qualität von "real" natürlich im Gegensatz zu AIGC steht, sind die Charaktere selbst fiktiv, und die Handlung ist von Natur aus fiktiv, so dass dies eher wie die "Erbsünde" ist, die an sich selbst hängt.
Die von der Plattform gesetzte Schwelle für "Authentizität" hat auch zu einer weiteren Stufe der "Unfairness" geführt: Im Vergleich zu Videos mit echten Themen sind die Überprüfungsstandards der AIGC strenger.
Auch die Arbeit des semiprofessionellen AIGC-Schöpfers Lan Xin wurde in letzter Zeit durch Verstöße veranlasst. Auf Xiaohongshu hat sie nacheinander eine Reihe von echten Fotos von Wang Yibo und KI-generierte Videos von Wang Yibo veröffentlicht. Heute hängt ersteres immer noch auf ihrer Homepage, während letzteres von der Plattform gelöscht werden soll. Da derselbe Gegenstand von der KI generiert wird, führt er zu unterschiedlichen Beurteilungsergebnissen.
Es ist erwähnenswert, dass alle KI-Videotools den Schwerpunkt auf "Realismus" legen. Zum Beispiel betonen die Simulation der physikalischen Gesetze von Keling, die Erzeugung großräumiger Bewegungen, wie die Verbesserung der Textur von Träumen, und die Nachahmung von Bewegungen, dass der Effekt der Selbsterzeugung nahe an der Realität ist.
Den Ergebnissen nach zu urteilen, möchte die Plattform nicht, dass die Schöpfer KI verwenden, um den Realismus der Charaktere wiederherzustellen, wenn die KI ein Kätzchen oder einen Welpen erschafft und einen Sinn für Realismus vermittelt, sollte sie akzeptiert werden.
Während der Fluss von KI-erstellten Inhalten streng eingeschränkt ist, wird das KI-"Wettrüsten" auf verschiedenen Plattformen immer intensiver.
Am 30.0. hat Xiaohongshu gerade einen neuen Eingang für seine KI-Anwendung "Diandian" gestartet, der sich auf der Nachrichtenseite befindet und den Deep-Thinking-Modus unterstützt. Vor einigen Tagen startete Byte den Graustufentest von "Instant Dream 0.0", der die Auflösung um 0% und die Generierungsgeschwindigkeit um 0% erhöhte.
Mit bequemeren On-Ramps, neueren Versionen und stärkerer Leistung haben diese Plattformen viele Ressourcen investiert, um die Entwicklung von KI-Tools zu fördern. Ziel ist es, die nächste Generation der Infrastruktur für die Produktion von Inhalten zu ergreifen und die Urheber an ihr eigenes Ökosystem zu binden.
Als jedoch eine große Anzahl von Entwicklern begann, KI-Tools zu verwenden und in den Bereich AIGC einstieg, fehlte es der Plattform an klaren Regeln und Überprüfungsstandards, die sie einhalten konnte, was häufig Fragen aufwarf.
Einige Leute sagen, dass die Plattform Menschen dazu bringt, Aufgaben für KI-Tools zu erledigen, sich an vielen damit verbundenen Wettbewerben und Aktivitäten beteiligt und sie dann in großem Umfang verbietet, was eine Art Anreiz ist; Einige Leute sagen auch, dass KI der Plattform keine Vorteile bringen und das Einkommen von Live-Ankern beeinträchtigen wird.
Die Doppelrolle der Plattform als Anbieter von KI-Tools und als Content-Moderator ist eine Herausforderung für sich.
Einige Plattformen fördern sogar aktiv Konflikte, wie z.B. Tomato Novels, das KI-Trainingsklauseln in die Unterzeichnungsvereinbarung aufgenommen hat, um seine eigene KI zu trainieren, was dazu geführt hat, dass sich eine große Anzahl von Autoren dagegen wehrt und unzufrieden ist.
Seit dem weit verbreiteten Einsatz von generativer KI in 2023 sind die Arbeiten von AIGC von vielen Zweifeln und Einschränkungen begleitet. So wurde beispielsweise das KI-Gemälde "Space Opera" zweimal wegen des Urheberrechts abgelehnt.
Nicht nur, dass KI-Werke nicht ordnungsgemäß urheberrechtlich geschützt sind, sondern auch das Verhältnis zwischen "Peers" wird immer angespannter. Eine große Anzahl traditioneller Content-Ersteller hat das Banner der "Anti-AIGC" hochgehalten. Dies führte auch dazu, dass ein Anti-AIGC-Sozialprodukt namens Cara in 2024 Jahren häufig die Download-Liste des App Stores in den Vereinigten Staaten anführte.
Es gibt auch eine "Anti-AIGC"-Atmosphäre auf Xiaohongshu, und der Schöpfer Tang Fei fühlt sich hilflos: "Einige Benutzer werden AIGC-Werke melden, wenn sie sie sehen, besonders die Gruppe von Leuten im Malkreis."
AIGC wird nicht nur auf gesellschaftlicher und rechtlicher Ebene nicht anerkannt, sondern stellt auch eine Gefahr für große Modellhersteller dar: Die Verwendung von KI-generierten Daten, um KI mehr als 5 Mal zu trainieren, wird die Leistung des Modells stark reduzieren. Forscher der Rice University und des Stanford-Teams nennen dies "Modell-Autophagie-Störung (MAD)".
Gegenwärtig überschwemmt das chinesische Internet, die AIGC-Werke. Unter den Plattformen, die Daten veröffentlicht haben, hat der Anteil der KI-generierten Inhalte auf WeChat-Kanälen 30 % erreicht.
Auch auf anderen Plattformen sind KI-generierte Inhalte auf dem Vormarsch. Diesmal wurde es verboten, und ein Kommentar zu Xiaohongshu wurde hoch gelobt: Das ist eine gute Sache, jedes Mal, wenn ich nach Informationen und Materialien suche, gibt es eine große Anzahl von KIs, und es ist schwierig, eine ernsthafte Referenz zu finden.
Der Hieb auf die AIGC-Plattform ist ein bisschen wie eine "Heuschreckenplage" im digitalen Bereich, der Zweck besteht nicht darin, "auszurotten", sondern zuerst die Gesamtmenge und den Umfang zu reduzieren und dann die Produktion minderwertiger Inhalte aus dem ökologischen Umfeld zu verhindern.
Wenn Sie in die Zukunft blicken: Wohin sollten die Entwickler von AIGC gehen?
Jemand fasste eine "20-Regel" zusammen, nämlich: 0% künstliche, originelle Fälle, echte Emotionen und exklusive Meinungen; 0% KI, Datenerfassung, Framework-Erstellung, Titeloptimierung; 0%-Tool zum Entfernen von KI-Spuren mit ContentAny, etc.
Aber niemand kann garantieren, ob diese Lektionen funktionieren werden. Oder, ob die Erfahrung, die jetzt funktioniert, in ein paar Monaten immer noch funktionieren wird, weiß niemand.
An diese Ungewissheit müssen sich alle gewöhnen.