近日，“顶流明星在澳门赌博输了 10 亿”等AI假新闻的出现引发热议。用AI造假博眼球、赚流量，法律的边界在哪里？

Questo articolo è stato pubblicato sulla rivista "Chinese Women".

　　近日，一则“顶流明星在澳门赌博输了10亿”的消息在互联网平台传播，引发网民热议和猜测，相关话题频繁登上微博热搜榜。然而经公安部门调查，这条消息是某网民为了博取流量，用AI软件生成的假消息。该网民被公安机关处以行政拘留8日的处罚。

　　随着人工智能技术的发展，用AI软件制造虚假信息，扰乱公共秩序的情况时有发生。通过该行为非法盈利达到一定数额，可能会面临刑事责任。上海市宝山区检察院就办理了一起“AI洗稿”生成假新闻案件，2025年1月23日，犯罪嫌疑人因犯非法经营罪，被判处有期徒刑。

Le voci sono state scoperte e la polizia ha bloccato la fonte

　　2024年4月，一条内容为“上海某地惊现‘骨灰房’”的假新闻在网上广泛传播，文章除了耸人听闻的内容之外，还配有虚构的图片，让不少网友信以为真。上海警方在进行网络巡查时发现了这一舆情，经过核实，文章内容均系捏造。警方很快锁定了文章的发布者，居住在云南一个小县城的00后女孩王丽。

Wang Li ha confessato alla polizia che nei mesi 3 e 0 le è capitato di vedere un netizen che affermava di essere "Lao Xu" pubblicare informazioni come la formazione all'imprenditorialità auto-mediatica, e ha immediatamente risposto all'altra parte, dicendo che voleva partecipare alla formazione. Successivamente, sotto la guida dell'altra parte, ha registrato un account su una piattaforma online e si è trasformata in un "self-media".

Lao Xu disse a Wang Li che avrebbe effettuato l'accesso all'account di Wang Li ogni giorno per depositare il manoscritto, e Wang Li avrebbe potuto fare clic su Pubblica. All'inizio, Wang Li si limitava a verificare il contenuto del manoscritto conservato nella bozza, ma man mano che apparivano sempre più manoscritti, smise gradualmente di leggere il contenuto e fece clic su Invia. Wang Li pubblica trenta o quaranta manoscritti ogni giorno, e la falsa informazione che "un 'colombario' è apparso da qualche parte a Shanghai" è stata conservata nella scatola delle bozze da "Lao Xu" e pubblicata da Wang Li.

　　警方依据王丽提供的线索展开追查，抓获了一个经营洗稿发帖业务的犯罪团伙。据调查，这个自称“老徐”的人名叫徐杰，他和罗文、刘侃三人一起在2023年6月买下了一家信息科技公司，主要从事电商经营、视频剪辑等业务。

In 1 anni e 0 mesi, hanno sentito che le entrate dell'azienda erano troppo basse, quindi si sono trasformate in self-media. In questo processo, Xu Jie ha scoperto che una grande piattaforma di notizie nazionali ha un meccanismo di incentivazione dei creatori, che darà "ricompense di traffico" in base al traffico dei blogger auto-mediatici, quindi ha iniziato a usare il suo cervello storto per compilare notizie false per ottenere traffico.

　　为谋利益，AI造假近千条

Come rendere le fake news "veloci e buone" e accattivanti? Xu Jie e altri hanno pensato al software di intelligenza artificiale. Hanno inserito nel software le notizie che hanno trovato su Internet e hanno istruito l'intelligenza artificiale a riscriverle: "Il titolo dovrebbe essere vigoroso, la conclusione dovrebbe essere controversa e il contenuto riscritto dovrebbe essere accattivante". "Dopo la compilazione e la riscrittura dell'intelligenza artificiale, uno dopo l'altro sono nate le nuove informazioni.

Al fine di ottenere più ricompense per il traffico sulla piattaforma, Xu Jie e altri hanno reclutato un gruppo di studenti con il pretesto di una "formazione all'imprenditorialità auto-mediatica", li hanno istruiti a registrare più account auto-media su una piattaforma online e hanno distribuito notizie false nella casella delle bozze degli account degli studenti, che sono stati pubblicati dagli studenti.

　　截至案发，该团伙指使学员注册了1100余个自媒体账号，发布了诸如“三星堆遗址挖出航母、核潜艇”“英语退出高考”等AI假新闻近千条，非法获取平台流量奖励5万余元。

Xu Jie e gli altri tre hanno una rigida divisione del lavoro. In qualità di effettivo controllore dell'azienda, Xu Jie è principalmente responsabile del reclutamento degli studenti, dell'utilizzo dell'intelligenza artificiale per generare notizie false e della guida degli studenti a pubblicarle. Rowan è responsabile del reclutamento degli studenti e della loro guida nella registrazione degli account; Liu Kan è responsabile dell'emissione di commissioni agli studenti. Dopo che i tre imputati sono stati portati a processo, tutti hanno confessato sinceramente i loro crimini e hanno ritirato i loro guadagni illegali.

Dopo la revisione, la Procura del Distretto di Shanghai Baoshan ha ritenuto che Xu Jie, Luo Wen e Liu Kan, i principali membri della banda criminale, abbiano violato le normative statali compilando informazioni false allo scopo di realizzare profitti e pubblicarle su Internet, interrompendo l'ordine del mercato, e le circostanze erano gravi, e dovrebbero essere indagate per responsabilità penale per il reato di attività commerciali illegali, quindi hanno perseguito i tre in conformità con la legge.

　　2025年1月，上海市宝山区法院经审理认为，徐杰等三人的行为均已构成非法经营罪。法院对徐杰判处有期徒刑一年十个月，并处罚金五万元；对罗文判处有期徒刑一年七个月，并处罚金五万元；对刘侃判处有期徒刑一年六个月，缓刑一年六个月，并处罚金五万元。

Wang Li è stata trattata in un caso separato e, in conformità con le disposizioni pertinenti della "Legge sulla punizione dell'amministrazione di pubblica sicurezza", l'organo amministrativo locale le ha imposto una sanzione amministrativa.

C'è una legge da seguire per affrontare le fake news "AI"

Quali leggi e regolamenti possono essere violati dall'"AI washing" che pubblica notizie false? Esistono regole e regolamenti applicabili alla gestione del software di intelligenza artificiale in Cina? Il nostro giornalista ha intervistato Zhu Jialin, vicedirettore del Terzo Dipartimento della Procura del Distretto di Baoshan a Shanghai, e He Wei, assistente procuratore del Terzo Dipartimento della Procura.

D: In questo caso, perché il "lavaggio dei manoscritti AI" dei tre imputati ha costituito il reato di attività commerciale illegale?

　　A：依据最高人民法院、最高人民检察院发布的《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》第七条，违反国家规定，以营利为目的，明知信息虚假却通过信息网络提供有偿发布服务，且非法经营数额达五万元以上或违法所得数额在二万元以上的，依据刑法第二百二十五条的规定，以非法经营罪定罪处罚。

D: Oltre al reato di attività commerciale illegale, quali altre responsabilità penali o amministrative possono essere sostenute utilizzando l'intelligenza artificiale per inventare notizie false?

R: In termini di responsabilità penale, prima di tutto, se la banda criminale in questo caso commercializza e pubblica informazioni false a scopo di lucro, può costituire il reato di attività commerciale illegale. In secondo luogo, secondo le disposizioni del codice penale, se una persona fabbrica informazioni false su pericoli, epidemie, disastri o informazioni di polizia e le diffonde su reti di informazione o altri media, o diffonde consapevolmente tali informazioni false su reti di informazione o altri media, sconvolgendo gravemente l'ordine sociale, può costituire il reato di fabbricazione o diffusione intenzionale di informazioni false.

Inoltre, a seconda del contenuto delle informazioni, del bersaglio e delle conseguenze causate, può anche costituire il reato di litigare e provocare problemi, il reato di insulto, il reato di diffamazione, ecc.

　　在行政责任方面，依据《治安管理处罚法》第二十五条，散布谣言，谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的，处五日以上十日以下拘留，可并处五百元以下罚款；情节较轻的，处五日以下拘留或者五百元以下罚款。

Inoltre, la legge sulla sicurezza informatica, le misure provvisorie per l'amministrazione dei servizi di intelligenza artificiale generativa e le disposizioni sull'amministrazione della sintesi profonda dei servizi di informazione su Internet prevedono anche il divieto di diffusione di informazioni false e coloro che fabbricano notizie false possono essere soggetti a sanzioni amministrative corrispondenti.

Si ricorda inoltre che quando si creano contenuti, è importante verificare l'autenticità delle informazioni da pubblicare per garantire che la fonte delle informazioni sia affidabile, che il contenuto sia accurato e non violi i diritti e gli interessi di altri.

D: Al momento, ci sono leggi, regolamenti o norme e regolamenti in Cina che possono essere applicati alla gestione dell'intelligenza artificiale?

　　A：我国已经制定了人工智能管理法规。如自2023年8月15日起实施的《生成式人工智能服务管理暂行办法》规定，将对“生成式人工智能服务”实施分类分级监管。

　　自2023年1月10日起施行的《互联网信息服务深度合成管理规定》对利用深度学习、虚拟现实等新技术从事互联网信息服务中的深度合成服务进行规范，要求深度合成服务提供者落实信息安全主体责任，建立健全管理制度和技术保障措施等。

Inoltre, esistono leggi e regolamenti come la legge sulla sicurezza informatica, la legge sulla sicurezza dei dati, la legge sulla protezione delle informazioni personali, la legge sul progresso scientifico e tecnologico, la legge sul copyright e le disposizioni sulla raccomandazione dell'amministrazione degli algoritmi per i servizi di informazione Internet.

Autore: Testo/Jin Weijing, Chen Chen

Fonte: Donne cinesi