Văn bản | New Berry Daybreak, Tác giả | He Lingzheng, biên tập Zhai Wenting
Một hạn chế đối với các công việc của AIGC đang lan rộng qua các nền tảng khác nhau trên quy mô lớn.
Một số người sáng tạo AIGC đã thành lập các nhóm trên Xiaohongshu để chia sẻ kinh nghiệm bị hạn chế của họ. Một người đăng 12 nội dung chòm sao bị đánh giá là "truyền bá mê tín phong kiến", và ai đó gặp phải lời nhắc "vi phạm" vì thế hệ sao AI. "Các sự kiện hư cấu" và "mạo danh người thật" là những căn cứ được trích dẫn thường xuyên nhất để trừng phạt.
Tình huống tương tự cũng xảy ra trên Channels và Douyin, nơi một số lượng lớn các tác phẩm của AIGC đã bị gỡ bỏ và cấm. Ngay cả khi tác phẩm không bị cấm, nó sẽ bị hạn chế tiếp xúc với giao thông và quyền thương mại.
Nhiều người suy đoán rằng vòng quy định này có thể liên quan đến "Các biện pháp xác định nội dung tổng hợp và tạo ra trí tuệ nhân tạo", sẽ được thực hiện trên 1 và 0. Các biện pháp yêu cầu tất cả nội dung AIGC phải được đánh dấu bằng nội dung rõ ràng (ví dụ: lời nhắc bằng văn bản, thẻ góc, tuyên bố bằng giọng nói) và ngầm (ví dụ: siêu dữ liệu, hình mờ kỹ thuật số).
Tuy nhiên, vẫn có những người sáng tạo báo cáo rằng các tác phẩm được đánh dấu bằng hình mờ AI vẫn không được xử lý bình thường.
Trong khi khuyến khích tạo ra AI, nó cũng hạn chế AI.
Sự mâu thuẫn này của nền tảng khiến những người sáng tạo bối rối và bối rối. Họ không cố ý thách thức các quy tắc, họ chỉ không biết ranh giới và lằn ranh đỏ ở đâu, và họ không biết tương lai sẽ ở đâu.
Người sáng tạo AIGC Lin Công gần đây hơi khó chịu.
Hai video nhân vật AI mà cô đăng trên tài khoản video đã bị vô hiệu hóa trực tiếp vì chúng được đánh giá là không phải người thật, và khả năng đề xuất video, tin nhắn riêng tư và bình luận đã bị vô hiệu hóa trực tiếp.
Theo yêu cầu, Lin Công đã gửi xác minh danh tính cá nhân một cách chi tiết, chọn tùy chọn sản xuất AI và gửi điện thoại di động có liên quan để chụp ảnh màn hình. Hệ thống trả lời rằng thông tin không đủ chi tiết để chứng minh quá trình sản xuất.
Mặc dù có chút miễn cưỡng trong lòng nhưng cô vẫn làm theo lời nhắc và gửi lại ảnh chụp màn hình của tất cả các quy trình sản xuất chính ở phía PC. Xác minh này đã vượt qua và hệ thống nhắc: Sau khi xuất bản nội dung do AI tạo ra, hãy chọn "Nội dung được sản xuất bởi công nghệ AI, vui lòng thận trọng với nội dung hư cấu" và các lời nhắc khác.
Tuy nhiên, xác minh này chỉ khôi phục chức năng bình luận video và nếu bạn muốn khôi phục chức năng tin nhắn trực tiếp, bạn cần xóa tất cả nội dung do AI tạo và gửi lại đơn đăng ký.
Xóa tác phẩm tương đương với việc xóa danh thiếp cá nhân của cô ấy, điều này hơi không thể chấp nhận được đối với cô ấy, vì vậy chức năng tin nhắn riêng tư của cô ấy vẫn chưa được khôi phục cho đến nay.
Mặc dù vậy, cảm giác của Lin Cong là trong làn sóng giám sát công việc AI này, tài khoản video không phải là nền tảng nghiêm ngặt nhất. Cô nói với Xinberry Daybreak, "Có vẻ như không có tác động nào ngoại trừ việc Kuaishou đánh dấu logo AI và một số nền tảng video lớn đang kiểm tra các tác phẩm do AI tạo ra".
林聪不是个例。小红书关于AI限流的笔记数量超过3万篇。从流量曝光，商业权益限制，到产品被下架，涉及不同程度的封禁。
Nền tảng video ngắn đang diễn ra sôi nổi, và hành động của giới văn học trực tuyến thực sự sớm hơn.
Vào tháng 1100 năm nay, Jinjiang đã bắn phát súng đầu tiên của "chống AI" và ban hành "Thông báo về hoạt động thử nghiệm về việc sử dụng và phán quyết của chữ viết có sự hỗ trợ của AI", trong đó quy định rõ ranh giới của việc sử dụng AI. Sau đó, điểm xuất phát và Tomato Novel công bố cấm hoàn toàn AI, yêu cầu các tác phẩm phải được tạo ra nhân tạo bằng 0%.
Việc chỉnh sửa mạnh mẽ các nền tảng văn bản trực tuyến đã dẫn đến nhiều đánh giá sai lầm. Ngay cả khi "cảm giác như nó được viết bởi AI" xuất hiện trong khu vực bình luận, nó có thể bị biên tập viên chặn vĩnh viễn.
Thương mại điện tử cũng đã gia nhập hàng ngũ để khắc phục "hình ảnh giả mạo AI".
Vào ngày 27 tháng 10, Taobao đã sửa đổi "Thông số kỹ thuật phát hành sản phẩm Taobao" và "Thông số kỹ thuật phát hành sản phẩm Tmall", đưa ra cách giải thích mở rộng rõ ràng về "biến dạng sản phẩm". Một trong những điểm mấu chốt là sử dụng AI và các công nghệ khác để tổng hợp và trình bày các kết xuất thông tin sản phẩm bị bóp méo và không nhất quán đáng kể.
Cường độ sửa chữa là chưa từng có, và có một quyết tâm lớn là "thà giết sai lầm còn hơn buông bỏ".
Trong hai năm qua, dưới logic tường thuật "AI làm giàu" và "siêu cá nhân", nội dung "tạo bằng một cú nhấp chuột" đã nhanh chóng tràn ngập Internet.
Một số người sử dụng AI để bán các khóa học và một số người sử dụng con người kỹ thuật số AI để bán sản phẩm ba không. Trên Taobao, một số lượng lớn người bán do AI tạo ra đã đánh lừa người tiêu dùng mua hàng và kết quả là các sản phẩm trong tay không khớp với hình ảnh một cách nghiêm trọng. AI hỗn loạn, âm thanh ô nhiễm AI là vô tận.
Theo quan sát của Lin Cong, trong vòng quản trị nội dung AI này, nhiều cuộc đàn áp hơn là nội dung đồng nhất và độc đáo thấp. "Bây giờ với AI, ai có nội dung phổ biến sẽ sao chép nó một cách nhanh chóng và với số lượng lớn."
Một ví dụ điển hình là sau sự bùng nổ của "Nezha" trong dịp Tết Nguyên đán năm nay, Douyin đã chứng kiến một số lượng lớn các tác phẩm tiếp theo của Nezha. Loại thể loại này thường sử dụng lời nhắc hoặc nội dung tương tự do cùng một Lora tạo ra.
AI也让一些机构的起号成本变低了，利用AI工具一天内可以生成了上百篇引发矛盾对立的笔记。小红书去年三个月里处置了超过100万个黑灰产团伙，均为通过超大规模矩阵生成同质化内容。
Để đạt được mục tiêu này, Douyin bắt đầu từ cấp độ thuật toán và bao gồm "tỷ lệ nhận dạng ban đầu" làm chỉ số cốt lõi và nếu nội dung do AI tạo ra không được gắn nhãn hoặc có tính đồng nhất "chẳng hạn như tỷ lệ lặp lại hơn 25%", nó sẽ được đánh giá là nội dung chất lượng thấp. Tài khoản video rõ ràng "cấm phát hành hàng loạt nội dung đồng nhất được tạo ra thông qua các tình huống tương tự, viết quảng cáo, các yếu tố, v.v.".
Một hướng khác của nền tảng tập trung vào việc chỉnh sửa là hình ảnh và cốt truyện của người thật hư cấu là sai và phóng đại.
Từ góc độ nền tảng, điều này không khó hiểu. Rốt cuộc, Xiaohongshu dựa trên "chia sẻ thực sự", và Kênh phải đảm bảo độ tin cậy của thông tin trong chuỗi quan hệ xã hội.
Đó là lý do tại sao, năm ngoái, Xiaohongshu bắt đầu phát triển một mô hình nhận dạng AI dựa trên công nghệ "phân loại" để đánh dấu nội dung được xác định là nghi ngờ được tạo ra bởi AI. Để củng cố hiệu quả, Xiaohongshu cũng đã thiết lập một rào cản kép về nhận dạng máy và đánh giá của con người.
Theo quan điểm của người sáng tạo, điều này hơi bất lực.
Bởi vì chất lượng của "thật" tự nhiên trái ngược với AIGC, bản thân các nhân vật là hư cấu, và cốt truyện tự nhiên là hư cấu, vì vậy điều này giống như "nguyên tội" gắn liền với chính nó.
Ngưỡng do nền tảng đặt ra cho "tính xác thực" cũng đã dẫn đến một mức độ "không công bằng" khác: so với các video có chủ đề thực, các tiêu chuẩn đánh giá của AIGC nghiêm ngặt hơn.
Công việc của người sáng tạo AIGC bán chuyên nghiệp Lan Xin gần đây cũng bị thúc đẩy bởi những vi phạm. Trên Xiaohongshu, cô đã liên tiếp tung ra một loạt ảnh thực tế của Wang Yibo và các video do AI tạo ra của Wang Yibo. Ngày nay, cái trước vẫn treo trên trang chủ của cô ấy, trong khi cái sau đã được nền tảng yêu cầu xóa. Cùng một chủ đề, vì nó được tạo ra bởi AI, sẽ nhận được kết quả phán đoán khác nhau.
Điều đáng nói là tất cả các công cụ video AI đều nhấn mạnh "chủ nghĩa hiện thực". Ví dụ, mô phỏng các định luật vật lý của Keling, việc tạo ra chuyển động quy mô lớn, chẳng hạn như cải thiện kết cấu của giấc mơ và bắt chước các chuyển động, tất cả đều nhấn mạnh rằng hiệu quả của việc tự tạo là gần với thực tế.
Đánh giá từ kết quả, nền tảng không muốn người sáng tạo sử dụng AI để khôi phục tính chân thực của các nhân vật, nếu AI tạo ra một chú mèo con hoặc chó con và tạo cảm giác hiện thực, điều đó nên được chấp nhận.
Trong khi luồng nội dung do AI tạo ra bị hạn chế nghiêm ngặt, "cuộc chạy đua vũ trang" AI trên các nền tảng khác nhau ngày càng trở nên gay gắt.
Vào ngày 30/0, Xiaohongshu vừa ra mắt một lối vào mới cho ứng dụng AI "Diandian" của mình, nằm trên trang tin nhắn và hỗ trợ chế độ tư duy sâu. Vài ngày trước, Byte đã bắt đầu thử nghiệm thang độ xám của "Instant Dream 0.0", giúp tăng độ phân giải lên 0% và tốc độ tạo lên 0%.
Với các đường dốc thuận tiện hơn, phiên bản mới hơn và hiệu suất mạnh hơn, các nền tảng này đã đầu tư rất nhiều nguồn lực để thúc đẩy sự phát triển của các công cụ AI. Mục đích là nắm bắt thế hệ tiếp theo của cơ sở hạ tầng sản xuất nội dung và ràng buộc người sáng tạo với hệ sinh thái của riêng họ.
Tuy nhiên, khi một số lượng lớn người sáng tạo bắt đầu sử dụng các công cụ AI và đổ vào lĩnh vực AIGC, nền tảng này thiếu một bộ quy tắc và tiêu chuẩn đánh giá rõ ràng để thực hiện, điều này khiến các câu hỏi thường xuyên được khơi dậy.
Một số người nói rằng nền tảng này kéo mọi người thực hiện các nhiệm vụ cho các công cụ AI, tham gia vào rất nhiều cuộc thi và hoạt động liên quan, sau đó cấm chúng trên quy mô lớn, đó là một loại khuyến khích; Một số người cũng cho rằng AI sẽ không mang lại lợi ích cho nền tảng và ảnh hưởng đến thu nhập của live anchor.
Vai trò kép của nền tảng vừa là nhà cung cấp công cụ AI vừa là người kiểm duyệt nội dung là một thách thức.
Một số nền tảng thậm chí đang tích cực thúc đẩy xung đột, chẳng hạn như Tomato Novels, đã bổ sung các điều khoản đào tạo AI vào thỏa thuận ký kết để đào tạo AI của riêng mình, điều này đã khiến một số lượng lớn tác giả phản đối và không hài lòng.
Kể từ khi AI tổng quát được sử dụng rộng rãi vào năm 2023, các công trình của AIGC đã đi kèm với nhiều nghi ngờ và hạn chế. Ví dụ, bức tranh AI "Space Opera" đã hai lần bị từ chối bản quyền.
Không chỉ các tác phẩm AI không được đăng ký bản quyền hợp lệ, mối quan hệ giữa các "đồng nghiệp" cũng ngày càng trở nên căng thẳng. Một số lượng lớn người sáng tạo nội dung truyền thống đã giương cao biểu ngữ "chống AIGC". Điều này cũng khiến một sản phẩm xã hội chống AIGC mang tên Cara trong 2024 năm bắt đầu thường xuyên đứng đầu danh sách tải xuống của App Store tại Hoa Kỳ.
Ngoài ra còn có bầu không khí "chống AIGC" trên Xiaohongshu, và người sáng tạo Tang Fei cảm thấy bất lực về điều đó, "Một số người dùng sẽ báo cáo các tác phẩm của AIGC khi họ nhìn thấy chúng, đặc biệt là nhóm người trong giới hội họa."
Ngoài việc bị không công nhận ở cấp độ xã hội và pháp lý, AIGC còn có nghĩa là mối nguy hiểm đối với các nhà sản xuất mô hình lớn: sử dụng dữ liệu do AI tạo ra để đào tạo AI hơn 5 lần sẽ làm giảm đáng kể hiệu suất của mô hình. Các nhà nghiên cứu tại Đại học Rice và nhóm nghiên cứu Stanford gọi đây là "rối loạn tự thực mô hình (MAD)".
Hiện tại, Internet Trung Quốc, các công trình AIGC đang tràn ngập. Trong số các nền tảng đã công bố dữ liệu, tỷ lệ nội dung do AI tạo ra trên Kênh WeChat đã đạt 30%.
Trên các nền tảng khác, nội dung do AI tạo ra cũng đang gia tăng. Lần này nó bị cấm, và một bình luận về Xiaohongshu được đánh giá cao: Đây là một điều tốt, mỗi khi tôi tìm kiếm thông tin và tài liệu, có một số lượng lớn AI, và rất khó để tìm thấy một tài liệu tham khảo nghiêm túc.
Việc chém tại nền tảng AIGC hơi giống như một "bệnh dịch châu chấu" trong lĩnh vực kỹ thuật số, mục đích không phải là để "tiêu diệt", trước tiên là giảm số lượng và quy mô tổng thể, sau đó ngăn chặn việc sản xuất nội dung kém chất lượng từ môi trường sinh thái.
Đối mặt với tương lai, những người sáng tạo AIGC nên đi đâu?
Ai đó đã tóm tắt một "quy tắc 20", cụ thể là: 0% nhân tạo, trường hợp gốc, cảm xúc thực và ý kiến độc quyền; 0% AI, đối chiếu dữ liệu, xây dựng khung, tối ưu hóa tiêu đề; 0% công cụ để xóa dấu vết của AI với ContentAny, v.v.
Nhưng không ai có thể đảm bảo liệu những bài học này có hiệu quả hay không. Hoặc, liệu kinh nghiệm hiệu quả hiện tại có còn hiệu quả trong vài tháng nữa hay không, không ai biết.
Mọi người phải làm quen với sự không chắc chắn này.