텍스트 | 뉴 베리 데이브레이크, 저자 | He Lingzheng, 에드 자이 웬팅
AIGC 작업에 대한 제한은 다양한 플랫폼을 통해 대규모로 확대되고 있습니다.
일부 AIGC 제작자는 Xiaohongshu에 그룹을 설정하여 제한받은 경험을 공유했습니다. 12개의 별자리 콘텐츠를 게시한 사람은 "봉건적 미신을 퍼뜨리는 것"으로 판단되었고, 누군가는 AI 별의 생성으로 인해 "침해" 프롬프트를 접했습니다. "허구적 사건"과 "실제 인물 사칭"은 가장 자주 언급되는 처벌 근거입니다.
채널(Channels)과 더우인(Douyin)에서도 같은 상황이 발생했는데, 많은 수의 AIGC 작품이 제거되고 금지되었습니다. 작품이 금지되지 않아도 트래픽 노출 및 상업적 권리는 제한됩니다.
많은 사람들은 이번 규제가 1과 0에서 시행될 "인공 지능 생성 및 합성 콘텐츠 식별을 위한 조치"와 관련이 있을 수 있다고 추측합니다. 이 조치는 모든 AIGC 콘텐츠를 명시적(예: 텍스트 프롬프트, 모서리 태그, 음성 문) 및 암시적(예: 메타데이터, 디지털 워터마크)으로 표시하도록 요구합니다.
그러나 AI 워터마크가 표시된 작품이 여전히 정상적으로 처리되지 않는다고 보고하는 제작자가 여전히 있습니다.
AI 창작을 장려하는 동시에 AI를 제한하고 있습니다.
플랫폼의 이러한 양면성은 제작자를 혼란스럽고 혼란스럽게 만듭니다. 그들은 고의로 규칙에 도전하지 않으며, 경계와 레드라인이 어디인지 모르고, 미래가 어디에 있는지 모릅니다.
AIGC 창시자 Lin Cong은 최근에 약간 짜증이 났습니다.
그녀가 동영상 계정에 올린 두 개의 AI 캐릭터 영상은 실재인이 아닌 것으로 판단되어 직접 비활성화되었고, 동영상 추천, 비공개 메시지 및 댓글 기능도 직접 비활성화되었습니다.
요구 사항에 따라 Lin Cong은 개인 신원 확인을 자세히 제출하고 AI 제작 옵션을 선택한 다음 관련 휴대폰을 제출하여 스크린샷을 만들었습니다. 시스템은 정보가 생산 과정을 증명할 만큼 상세하지 않다고 대답했습니다.
마음속으로는 약간 내키지 않았지만 그녀는 여전히 지시를 따랐고 모든 주요 제작 프로세스의 스크린샷을 PC 측에 다시 제출했습니다. 이 확인이 통과되었으며 시스템에서 다음과 같은 메시지를 표시합니다.AI 생성 콘텐츠를 게시한 후 "콘텐츠는 AI 기술로 제작되었습니다. 허구 콘텐츠에 주의하십시오." 및 기타 프롬프트를 선택합니다.
단, 이번 인증은 영상 댓글 기능만 복원하며, 다이렉트 메시지 기능을 복원하려면 AI 생성 콘텐츠를 모두 삭제하고 신청서를 다시 제출해야 합니다.
작품을 삭제하는 것은 그녀의 개인 명함을 지우는 것과 같으며, 이는 그녀에게 약간 용납되지 않으므로 지금까지 개인 메시지 기능이 복원되지 않았습니다.
그럼에도 불구하고 린콩은 인공지능 작품에 대한 감독의 물결에서 동영상 계정이 가장 엄격한 플랫폼이 아니라고 느낀다. 그녀는 신베리 데이브레이크에 "콰이쇼우가 AI 로고를 표시하는 것 외에는 영향이 없는 것 같고, 여러 주요 비디오 플랫폼이 AI가 만든 작품을 확인하고 있다"고 말했다.
林聪不是个例。小红书关于AI限流的笔记数量超过3万篇。从流量曝光，商业权益限制，到产品被下架，涉及不同程度的封禁。
단편 비디오 플랫폼이 본격적으로 진행되고 있으며 온라인 문학계의 활동은 실제로 더 빠릅니다.
올해 1100월, 진장성은 '반(反)AI'의 첫 발포를 하고 'AI 보조 글쓰기의 사용 및 판단에 대한 시범 운영에 관한 발표'를 발표했는데, 이는 AI 사용의 경계를 명확하게 규정하고 있다. 그 후, 출발점이자 토마토 노벨(Tomato Novel)은 AI에 대한 완전한 금지를 발표하고 작품은 0% 인위적으로 만들어져야 한다고 요구했습니다.
온라인 텍스트 플랫폼의 강력한 수정은 많은 오판을 낳았습니다. 댓글 영역에 "AI가 쓴 것 같은 느낌"이 나타나도 에디터에 의해 영구적으로 차단될 수 있습니다.
전자상거래도 'AI 가짜 이미지'를 바로잡기 위해 동참했다.
127월 0일, Taobao는 "Taobao 제품 출시 사양"과 "Tmall 제품 출시 사양"을 개정하여 "제품 왜곡"에 대한 확장된 해석을 명확하게 했습니다. 핵심 포인트 중 하나는 AI 및 기타 기술을 사용하여 크게 왜곡되고 일관되지 않은 제품 정보 렌더링을 합성하고 표시하는 것입니다.
바로잡기의 강도는 전례가 없으며, "놓아주는 것보다 실수를 죽이는 것"이라는 큰 결의가 있습니다.
지난 2년 동안 "AI는 부자가 된다"와 "초개인"이라는 내러티브 논리에 따라 "원클릭 생성" 콘텐츠가 인터넷에 빠르게 범람했습니다.
어떤 사람들은 AI를 사용하여 코스를 판매하고 어떤 사람들은 AI 디지털 휴먼을 사용하여 쓰리-노 제품을 판매합니다. 타오바오에서는 AI가 생성한 수많은 판매자 쇼가 소비자를 오도하여 구매로 유도했으며, 그 결과 손에 든 제품이 사진과 심각하게 일치하지 않았습니다. AI 혼돈, AI 오염의 소리는 끝이 없습니다.
린콩(Lin Cong)의 관찰에 따르면, 이번 AI 콘텐츠 거버넌스에서는 동질적이고 독창성이 낮은 콘텐츠에 대한 단속이 더 많이 이루어집니다. "이제 AI를 사용하면 인기 있는 콘텐츠를 가진 사람은 누구나 빠르고 대량으로 복사할 수 있습니다."
전형적인 예로, 올해 구정에 'Nezha'가 폭발적으로 증가한 후 Douyin은 Nezha의 후속 제작을 많이 보았습니다. 이러한 유형의 장르는 종종 동일한 Lora에서 생성된 유사한 프롬프트 또는 콘텐츠를 사용합니다.
AI也让一些机构的起号成本变低了，利用AI工具一天内可以生成了上百篇引发矛盾对立的笔记。小红书去年三个月里处置了超过100万个黑灰产团伙，均为通过超大规模矩阵生成同质化内容。
이를 위해 Douyin은 알고리즘 수준부터 시작하여 "원래 인식률"을 핵심 지표로 포함하며, AI가 생성한 콘텐츠에 레이블이 지정되지 않았거나 "반복률이 25% 이상"과 같은 동질성을 갖는 경우 저품질 콘텐츠로 판단됩니다. 비디오 계정은 "유사한 시나리오, 카피라이팅, 요소 등을 통해 제작된 동질적인 콘텐츠의 일괄 출시를 금지"합니다.
정정에 대한 플랫폼의 초점의 또 다른 방향은 가상의 실제 인물 이미지와 플롯이 거짓되고 과장되었다는 것입니다.
플랫폼 관점에서 이것은 이해하기 어렵지 않습니다. 결국, Xiaohongshu는 "실제 공유"를 기반으로 하며 채널은 사회적 관계 사슬에서 정보의 신뢰성을 보장해야 합니다.
그래서 지난해 샤오홍슈는 '분류기(classifier)' 기술을 기반으로 하는 AI 인식 모델을 개발해 생성된 것으로 의심되는 콘텐츠를 표시하기 시작했다. 효과를 강화하기 위해 Xiaohongshu는 기계 인식과 인간 검토라는 이중 장벽도 설정했습니다.
제작자의 관점에서 볼 때 이것은 약간 무력합니다.
"진짜"의 품질은 AIGC와 자연스럽게 반대되기 때문에 캐릭터 자체가 허구이고 줄거리는 자연스럽게 허구이기 때문에 이것은 그 자체에 부여된 "원죄"에 더 가깝습니다.
플랫폼이 설정한 "진정성"에 대한 임계값은 또 다른 수준의 "불공정성"으로 이어졌습니다: 실제 주제의 비디오와 비교할 때 AIGC의 검토 기준은 더 엄격합니다.
세미 프로페셔널 AIGC 제작자 란 신(Lan Xin)의 작품도 최근 위반 사항으로 촉발되었습니다. 샤오홍슈에서는 왕이보의 실제 사진 시리즈와 왕이보의 AI 생성 영상을 잇달아 공개했다. 오늘날 전자는 여전히 그녀의 홈페이지에 걸려 있고 후자는 플랫폼에 의해 삭제하라는 요청을 받았습니다. 동일한 주제는 AI에 의해 생성되기 때문에 다른 판단 결과를 얻게 됩니다.
모든 AI 비디오 도구가 "사실주의"를 강조하고 있다는 점을 언급할 가치가 있습니다. 예를 들어, 켈링의 물리 법칙의 시뮬레이션, 꿈의 질감 개선과 같은 대규모 운동의 생성, 움직임의 모방 등은 모두 자기 생성의 효과가 현실에 가깝다는 것을 강조합니다.
결과물로 판단할 때 플랫폼은 크리에이터가 캐릭터의 사실감을 회복하기 위해 AI를 사용하는 것을 원하지 않으며, AI가 새끼 고양이나 강아지를 만들고 사실감을 준다면 받아들여야 합니다.
AI가 제작한 콘텐츠의 흐름은 엄격히 제한되고 있지만, 다양한 플랫폼에서 AI의 '군비 경쟁'은 점점 더 치열해지고 있습니다.
30/0에 Xiaohongshu는 메시지 페이지에 있고 깊은 사고 모드를 지원하는 AI 애플리케이션 "Diandian"의 새로운 입구를 출시했습니다. 며칠 전 Byte는 "Instant Dream 0.0"의 그레이스케일 테스트를 시작하여 해상도를 0% 높이고 생성 속도를 0% 높였습니다.
더 편리한 진입로, 최신 버전 및 더 강력한 성능을 갖춘 이러한 플랫폼은 AI 도구 개발을 촉진하기 위해 많은 리소스를 투자했습니다. 목적은 차세대 콘텐츠 제작 인프라를 확보하고 크리에이터를 자신의 생태계에 묶는 것입니다.
그러나 많은 크리에이터가 AI 도구를 사용하기 시작하고 AIGC 분야에 쏟아져 들어왔을 때 플랫폼에는 수행해야 할 명확한 규칙과 검토 표준이 부족하여 자주 질문이 제기되었습니다.
어떤 사람들은 플랫폼이 사람들을 AI 도구에 대한 작업을 하도록 끌어당기고 많은 관련 경쟁 및 활동에 참여한 다음 대규모로 금지하는 일종의 유인책이라고 말합니다. 어떤 사람들은 또한 AI가 플랫폼에 이점을 가져다주지 않고 라이브 앵커의 수입에 영향을 미치지 않을 것이라고 말합니다.
AI 도구 제공자와 콘텐츠 중재자로서의 플랫폼의 이중 역할은 그 자체로 도전입니다.
토마토 노블스(Tomato Novels)와 같은 일부 플랫폼은 자체 AI를 훈련시키기 위해 서명 계약서에 AI 교육 조항을 추가하여 많은 작가들이 저항하고 불만을 품게 하는 등 갈등을 적극적으로 조장하고 있습니다.
2023에서 생성형 AI가 널리 사용된 이후 AIGC의 작업은 많은 의심과 한계를 동반했습니다. 예를 들어, AI 페인팅 "스페이스 오페라"는 저작권으로 두 번 거부되었습니다.
AI 작품에 저작권이 제대로 부여되지 않을 뿐만 아니라 '동료'와의 관계도 점점 더 긴장되고 있습니다. 많은 수의 전통적인 콘텐츠 제작자가 "반 AIGC"의 깃발을 올렸습니다. 이것은 또한 2024 년 안에 Cara라는 반 AIGC 소셜 제품이 미국 App Store의 다운로드 목록에서 자주 상위를 차지하기 시작했습니다.
샤오홍슈에는 '반(反)AIGC' 분위기도 있는데, 창작자 탕페이(Tang Fei)는 이에 대해 무력감을 느낀다.
AIGC는 사회적, 법적 수준에서 인식되지 않는 것 외에도 대형 모델 제조업체에 위험을 의미하며, AI 생성 데이터를 사용하여 AI를 5회 이상 훈련시키면 모델의 성능이 크게 저하됩니다. 라이스 대학(Rice University)의 연구진과 스탠포드 연구팀은 이를 '모델 자가포식 장애(Model Autophagy Disorder, MAD)'라고 부른다.
현재 중국 인터넷, AIGC 작품이 홍수처럼 쏟아져 나오고 있습니다. 데이터를 게시한 플랫폼 중 WeChat 채널에서 AI 생성 콘텐츠의 비율은 30%에 도달했습니다.
다른 플랫폼에서는 AI 생성 콘텐츠도 증가하고 있습니다. 이번에는 금지되었고 Xiaohongshu에 대한 댓글이 높은 평가를 받았습니다 : 이것은 좋은 일입니다, 정보와 자료를 검색 할 때마다 많은 수의 AI가 있으며 심각한 참조를 찾기가 어렵습니다.
AIGC 플랫폼의 삭감은 디지털 분야의 "메뚜기 전염병"과 약간 비슷하며, 목적은 "근절"이 아니라 먼저 전체 수량과 규모를 줄인 다음 생태 환경에서 열등한 콘텐츠의 생산을 방지하는 것입니다.
미래를 맞이하여 AIGC 크리에이터는 어디로 가야 할까요?
누군가는 "20의 법칙"을 요약했습니다 : 0 % 인위적, 독창적 인 사례, 실제 감정 및 배타적 의견; 0% AI, 데이터 대조, 프레임워크 구축, 제목 최적화; ContentAny 등으로 AI의 흔적을 제거하는 0% 도구
그러나 이러한 교훈이 효과가 있을지는 아무도 장담할 수 없습니다. 또는 지금 작동하는 환경이 몇 달 후에도 계속 작동할지 여부는 아무도 모릅니다.
모두가 이 불확실성에 익숙해져야 합니다.