पाठ | न्यू बेरी डेब्रेक, लेखक | वह लिंगझेंग, एड झाई वेंटिंग
एआईजीसी कार्यों पर प्रतिबंध बड़े पैमाने पर विभिन्न प्लेटफार्मों के माध्यम से व्यापक है।
कुछ AIGC रचनाकारों ने प्रतिबंधित होने के अपने अनुभवों को साझा करने के लिए Xiaohongshu पर समूह स्थापित किए हैं। 12 नक्षत्र सामग्री पोस्ट करने वाले किसी व्यक्ति को "सामंती अंधविश्वास फैलाने" के रूप में आंका गया था, और किसी को एआई सितारों की पीढ़ी के कारण "उल्लंघन" संकेत का सामना करना पड़ा। "काल्पनिक घटनाएं" और "वास्तविक लोगों का प्रतिरूपण" सजा के लिए सबसे अधिक बार उद्धृत आधार हैं।
यही स्थिति चैनल्स और डॉयिन पर भी हुई, जहां बड़ी संख्या में एआईजीसी कार्यों को हटा दिया गया और प्रतिबंधित कर दिया गया। यहां तक कि अगर काम पर प्रतिबंध नहीं लगाया जाता है, तो यह यातायात जोखिम और वाणिज्यिक अधिकारों से प्रतिबंधित होगा।
बहुत से लोग अनुमान लगाते हैं कि विनियमन का यह दौर "आर्टिफिशियल इंटेलिजेंस जेनरेटेड और सिंथेटिक सामग्री की पहचान के उपाय" से संबंधित हो सकता है, जिसे 1 और 0 पर लागू किया जाएगा। उपायों के लिए सभी एआईजीसी सामग्री को स्पष्ट (जैसे, पाठ संकेत, कोने टैग, आवाज बयान) और अंतर्निहित (जैसे, मेटाडेटा, डिजिटल वॉटरमार्क) के साथ चिह्नित करने की आवश्यकता होती है।
हालांकि, अभी भी ऐसे निर्माता हैं जो रिपोर्ट करते हैं कि एआई वॉटरमार्क के साथ चिह्नित कार्यों को अभी भी सामान्य रूप से व्यवहार नहीं किया जाता है।
एआई निर्माण को प्रोत्साहित करते हुए, यह एआई को भी प्रतिबंधित कर रहा है।
मंच की यह द्विपक्षीयता रचनाकारों को भ्रमित और भ्रमित कर देती है। वे जानबूझकर नियमों को चुनौती नहीं दे रहे हैं, लेकिन वे नहीं जानते कि सीमाएं और लाल रेखाएं कहां हैं, और वे नहीं जानते कि भविष्य कहां है।
एआईजीसी निर्माता लिन कांग हाल ही में थोड़ा नाराज हो गया है।
वीडियो खाते पर पोस्ट किए गए दो एआई चरित्र वीडियो सीधे अक्षम थे क्योंकि उन्हें गैर-वास्तविक लोगों के रूप में आंका गया था, और वीडियो सिफारिश, निजी संदेश और टिप्पणी क्षमताओं को सीधे अक्षम कर दिया गया था।
आवश्यकताओं के अनुसार, लिन कांग ने व्यक्तिगत पहचान सत्यापन विस्तार से प्रस्तुत किया, एआई उत्पादन विकल्प का चयन किया, और स्क्रीनशॉट बनाने के लिए संबंधित मोबाइल फोन जमा किया। सिस्टम ने जवाब दिया कि उत्पादन प्रक्रिया को साबित करने के लिए जानकारी पर्याप्त विस्तृत नहीं थी।
हालाँकि वह अपने दिल में थोड़ी अनिच्छुक थी, फिर भी उसने संकेतों का पालन किया और पीसी पक्ष पर सभी प्रमुख उत्पादन प्रक्रियाओं के स्क्रीनशॉट फिर से प्रस्तुत किए। यह सत्यापन बीत चुका है, और सिस्टम संकेत देता है: एआई-जनित सामग्री प्रकाशित करने के बाद, "सामग्री एआई तकनीक द्वारा निर्मित है, कृपया काल्पनिक सामग्री के बारे में सतर्क रहें" और अन्य संकेतों का चयन करें।
हालाँकि, यह सत्यापन केवल वीडियो टिप्पणी फ़ंक्शन को पुनर्स्थापित करता है, और यदि आप प्रत्यक्ष संदेश फ़ंक्शन को पुनर्स्थापित करना चाहते हैं, तो आपको सभी एआई-जनित सामग्री को हटाना होगा और एप्लिकेशन को फिर से सबमिट करना होगा।
काम को हटाना उसके व्यक्तिगत व्यवसाय कार्ड को मिटाने के बराबर है, जो उसके लिए थोड़ा अस्वीकार्य है, इसलिए उसका निजी संदेश फ़ंक्शन अब तक बहाल नहीं किया गया है।
फिर भी, लिन कांग का अनुभव यह है कि एआई कार्यों के पर्यवेक्षण की इस लहर में, वीडियो खाता सबसे कठोर मंच नहीं है। उसने ज़िनबेरी डेब्रेक को बताया, "ऐसा लगता है कि एआई लोगो को चिह्नित करने के अलावा कोई प्रभाव नहीं है, और कई प्रमुख वीडियो प्लेटफॉर्म एआई द्वारा बनाए गए कार्यों की जांच कर रहे हैं।
林聪不是个例。小红书关于AI限流的笔记数量超过3万篇。从流量曝光，商业权益限制，到产品被下架，涉及不同程度的封禁。
लघु वीडियो मंच पूरे जोरों पर है, और ऑनलाइन साहित्यिक सर्कल की कार्रवाई वास्तव में पहले है।
今年2月，晋江打出「反AI」的第一枪，发布了《关于AI辅助写作使用、判定的试运行公告》，明确规定使用AI的边界。接着，起点、番茄小说宣布全面禁止AI，要求作品必须100%人工创作。
ऑनलाइन टेक्स्ट प्लेटफॉर्म के मजबूत सुधार ने कई गलत निर्णय लिए हैं। यहां तक कि अगर "ऐसा लगता है कि यह एआई द्वारा लिखा गया था" टिप्पणी क्षेत्र में दिखाई देता है, तो इसे संपादक द्वारा स्थायी रूप से अवरुद्ध किया जा सकता है।
ई-कॉमर्स भी "एआई नकली छवि" को सुधारने के लिए रैंकों में शामिल हो गया है।
3月27日，淘宝修订了《淘宝网商品发布规范》和《天猫商品发布规范》，对「商品失真」做出明确的拓展解读。其中一个重点的指向，便是利用AI等技术合成方式，呈现显著失真的与实际不符的商品信息效果图。
सुधार की तीव्रता अभूतपूर्व है, और "गलतियों को मारने के बजाय जाने देने" का एक बड़ा दृढ़ संकल्प है।
पिछले दो वर्षों में, "एआई गेट-रिच" और "सुपर इंडिविजुअल" के कथात्मक तर्क के तहत, "वन-क्लिक जेनरेटेड" सामग्री ने इंटरनेट पर तेजी से बाढ़ ला दी है।
कुछ लोग एआई का उपयोग पाठ्यक्रम बेचने के लिए करते हैं, और कुछ लोग एआई डिजिटल मनुष्यों का उपयोग तीन-नो उत्पाद बेचने के लिए करते हैं। Taobao पर, बड़ी संख्या में AI-जनित विक्रेता उपभोक्ताओं को खरीदने के लिए गुमराह करते हैं, और परिणामस्वरूप, हाथ में उत्पाद चित्रों से गंभीरता से मेल नहीं खाते हैं। एआई अराजकता, एआई प्रदूषण की आवाज अंतहीन है।
लिन कांग के अवलोकन के अनुसार, एआई सामग्री शासन के इस दौर में, सबसे आम हमले सजातीय और कम-मौलिकता सामग्री हैं। "अब एआई के साथ, जिसके पास लोकप्रिय सामग्री है, वह इसे जल्दी और बड़ी मात्रा में कॉपी करेगा।
एक विशिष्ट उदाहरण यह है कि इस वर्ष चीनी नव वर्ष के दौरान "नेझा" के विस्फोट के बाद, डॉयिन ने नेझा की बड़ी संख्या में अनुवर्ती प्रस्तुतियों को देखा। इस प्रकार की शैली अक्सर समान संकेतों या एक ही लोरा द्वारा उत्पन्न सामग्री का उपयोग करती है।
AI也让一些机构的起号成本变低了，利用AI工具一天内可以生成了上百篇引发矛盾对立的笔记。小红书去年三个月里处置了超过100万个黑灰产团伙，均为通过超大规模矩阵生成同质化内容。
इसके लिए, डॉयिन एल्गोरिथम स्तर से शुरू होता है और इसमें मुख्य संकेतक के रूप में "मूल मान्यता दर" शामिल होती है, और यदि एआई-जनित सामग्री को लेबल नहीं किया गया है या एकरूपता है "जैसे कि 25% से अधिक की पुनरावृत्ति दर", इसे निम्न-गुणवत्ता वाली सामग्री के रूप में आंका जाएगा। वीडियो अकाउंट स्पष्ट रूप से "समान परिदृश्यों, कॉपी राइटिंग, तत्वों आदि के माध्यम से गढ़ी गई सजातीय सामग्री के बैच रिलीज को प्रतिबंधित करता है"।
सुधार पर मंच के फोकस की एक और दिशा यह है कि काल्पनिक वास्तविक व्यक्ति की छवि और कथानक झूठे और अतिरंजित हैं।
मंच के नजरिए से इसे समझना मुश्किल नहीं है। आखिरकार, Xiaohongshu "वास्तविक साझाकरण" पर आधारित है, और चैनलों को सामाजिक संबंध श्रृंखला में जानकारी की विश्वसनीयता सुनिश्चित करनी चाहिए।
इसीलिए, पिछले साल, Xiaohongshu ने संदिग्ध AI-जनित के रूप में पहचानी जाने वाली सामग्री को चिह्नित करने के लिए "क्लासिफायर" तकनीक पर आधारित AI मान्यता मॉडल विकसित करना शुरू किया। प्रभाव को मजबूत करने के लिए, Xiaohongshu ने मशीन पहचान और मानव समीक्षा का एक दोहरा अवरोध भी स्थापित किया है।
रचनाकार के दृष्टिकोण से, यह थोड़ा असहाय है।
क्योंकि "वास्तविक" की गुणवत्ता स्वाभाविक रूप से एआईजीसी के विपरीत है, पात्र स्वयं काल्पनिक हैं, और कथानक स्वाभाविक रूप से काल्पनिक है, इसलिए यह स्वयं से जुड़े "मूल पाप" की तरह है।
"प्रामाणिकता" के लिए मंच द्वारा निर्धारित सीमा ने "अन्याय" का एक और स्तर भी जन्म दिया है: वास्तविक विषयों वाले वीडियो की तुलना में, एआईजीसी के समीक्षा मानक अधिक कड़े हैं।
अर्ध-पेशेवर AIGC निर्माता लैन शिन के काम को भी हाल ही में उल्लंघन से प्रेरित किया गया है। Xiaohongshu पर, उसने क्रमिक रूप से वांग Yibo की वास्तविक तस्वीरों और वांग Yibo के AI-जनित वीडियो की एक श्रृंखला जारी की है। आज, पूर्व अभी भी उसके होमपेज पर लटका हुआ है, जबकि बाद वाले को मंच द्वारा हटाने के लिए कहा गया है। एक ही विषय वस्तु, क्योंकि यह एआई द्वारा उत्पन्न होती है, को अलग-अलग निर्णय परिणाम मिलेंगे।
यह उल्लेखनीय है कि सभी एआई वीडियो उपकरण "यथार्थवाद" पर जोर दे रहे हैं। उदाहरण के लिए, केलिंग के भौतिक कानूनों का अनुकरण, बड़े पैमाने पर गति की पीढ़ी, जैसे सपनों की बनावट में सुधार, और आंदोलनों की नकल, सभी इस बात पर जोर देते हैं कि आत्म-पीढ़ी का प्रभाव वास्तविकता के करीब है।
परिणामों को देखते हुए, मंच नहीं चाहता कि निर्माता पात्रों के यथार्थवाद को बहाल करने के लिए एआई का उपयोग करें, अगर एआई एक बिल्ली का बच्चा या पिल्ला बनाता है और यथार्थवाद की भावना बनाता है, तो इसे स्वीकार किया जाना चाहिए।
जबकि एआई-निर्मित सामग्री का प्रवाह सख्ती से प्रतिबंधित है, विभिन्न प्लेटफार्मों पर एआई "हथियारों की दौड़" तेजी से तीव्र होती जा रही है।
30/0 पर, Xiaohongshu ने अपने AI एप्लिकेशन "Diandian" के लिए एक नया प्रवेश द्वार लॉन्च किया, जो संदेश पृष्ठ पर स्थित है और गहरी सोच मोड का समर्थन करता है। कुछ दिनों पहले, बाइट ने "इंस्टेंट ड्रीम 0.0" का ग्रेस्केल टेस्ट शुरू किया, जिससे रिज़ॉल्यूशन में 0% और जनरेशन स्पीड में 0% की वृद्धि हुई।
अधिक सुविधाजनक ऑन-रैंप, नए संस्करण और मजबूत प्रदर्शन के साथ, इन प्लेटफार्मों ने एआई उपकरणों के विकास को बढ़ावा देने के लिए बहुत सारे संसाधनों का निवेश किया है। इसका उद्देश्य अगली पीढ़ी के सामग्री उत्पादन बुनियादी ढांचे को जब्त करना और रचनाकारों को अपने स्वयं के पारिस्थितिकी तंत्र से बांधना है।
हालाँकि, जब बड़ी संख्या में रचनाकारों ने AI उपकरणों का उपयोग करना शुरू किया और AIGC के क्षेत्र में डाला, तो प्लेटफ़ॉर्म में नियमों और समीक्षा मानकों के स्पष्ट सेट का अभाव था, जिससे अक्सर प्रश्न उठते थे।
कुछ लोग कहते हैं कि मंच लोगों को एआई उपकरणों के लिए कार्य करने के लिए खींचता है, कई संबंधित प्रतियोगिताओं और गतिविधियों में संलग्न होता है, और फिर उन्हें बड़े पैमाने पर प्रतिबंधित करता है, जो एक प्रकार का प्रलोभन है; कुछ लोगों का यह भी कहना है कि एआई प्लेटफॉर्म पर लाभ नहीं लाएगा और लाइव एंकरों की आय को प्रभावित करेगा।
एआई टूल प्रदाता और सामग्री मॉडरेटर दोनों के रूप में मंच की दोहरी भूमिका अपने आप में एक चुनौती है।
कुछ प्लेटफ़ॉर्म सक्रिय रूप से संघर्षों को बढ़ावा दे रहे हैं, जैसे कि टमाटर उपन्यास, जिसने अपने स्वयं के एआई को प्रशिक्षित करने के लिए हस्ताक्षर समझौते में एआई प्रशिक्षण खंड जोड़े हैं, जिसके कारण बड़ी संख्या में लेखक विरोध और असंतुष्ट हुए हैं।
自2023年生成式AI广泛运用以来，伴随AIGC作品而来的就是诸多质疑和限制。知名如AI绘画作品《太空歌剧院》，曾两次进行版权申请被拒绝。
न केवल एआई कार्यों को ठीक से कॉपीराइट नहीं किया गया है, बल्कि "साथियों" के बीच संबंध भी अधिक से अधिक तनावपूर्ण होता जा रहा है। बड़ी संख्या में पारंपरिक सामग्री निर्माताओं ने "एंटी-एआईजीसी" का बैनर उठाया है। इसने 2024 वर्षों में कारा नामक एक एंटी-एआईजीसी सामाजिक उत्पाद भी बनाया, जो संयुक्त राज्य अमेरिका में ऐप स्टोर की डाउनलोड सूची में अक्सर शीर्ष पर पहुंचने लगा।
Xiaohongshu पर एक "एंटी-एआईजीसी" माहौल भी है, और निर्माता तांग फी इसके बारे में असहाय महसूस करते हैं, "कुछ उपयोगकर्ता एआईजीसी कार्यों की रिपोर्ट करेंगे जब वे उन्हें देखेंगे, विशेष रूप से पेंटिंग सर्कल में लोगों का समूह।
सामाजिक और कानूनी स्तरों पर अस्वीकृत होने के अलावा, एआईजीसी का मतलब बड़े मॉडल निर्माताओं के लिए भी खतरा है: एआई को 5 से अधिक बार प्रशिक्षित करने के लिए एआई-जनित डेटा का उपयोग करने से मॉडल के प्रदर्शन में बहुत कमी आएगी। राइस यूनिवर्सिटी और स्टैनफोर्ड टीम के शोधकर्ता इसे "मॉडल ऑटोफैगी डिसऑर्डर (एमएडी)" कहते हैं।
वर्तमान में, चीनी इंटरनेट, एआईजीसी कार्यों में बाढ़ आ रही है। डेटा प्रकाशित करने वाले प्लेटफार्मों में, वीचैट चैनलों पर एआई-जनित सामग्री का अनुपात 30% तक पहुंच गया है।
अन्य प्लेटफार्मों पर, एआई-जनित सामग्री भी बढ़ रही है। इस बार इसे प्रतिबंधित कर दिया गया था, और Xiaohongshu पर एक टिप्पणी की बहुत प्रशंसा की गई थी: यह एक अच्छी बात है, हर बार जब मैं जानकारी और सामग्री खोजता हूं, तो बड़ी संख्या में AI होते हैं, और एक गंभीर संदर्भ खोजना मुश्किल होता है।
एआईजीसी प्लेटफॉर्म पर स्लैश डिजिटल क्षेत्र में "टिड्डी प्लेग" की तरह है, इसका उद्देश्य "भगाना" नहीं है, पहले समग्र मात्रा और पैमाने को कम करना है, और फिर पारिस्थितिक वातावरण से हीन सामग्री के उत्पादन को रोकना है।
भविष्य का सामना करते हुए, एआईजीसी रचनाकारों को कहां जाना चाहिए?
किसी ने "20 का नियम" अभिव्यक्त किया, अर्थात्: 0% कृत्रिम, मूल मामले, वास्तविक भावनाएं और अनन्य राय; 0% एआई, डेटा मिलान, फ्रेमवर्क बिल्डिंग, शीर्षक अनुकूलन; ContentAny, आदि के साथ AI के निशान हटाने के लिए 0% उपकरण।
लेकिन कोई भी गारंटी नहीं दे सकता कि ये सबक काम करेंगे या नहीं। या, क्या अब काम करने वाला अनुभव अभी भी कुछ महीनों में काम करेगा, कोई नहीं जानता।
हर किसी को इस अनिश्चितता की आदत डालनी होगी।