Dopo il lancio della sua versione di Chat Gpt, la Cina si affretta a controllare l’IA generativa. “Dialoghi” è una rubrica in collaborazione tra China Files e l’Istituto Confucio di Milano
Nuova tecnologia. Nuove regolamentazioni. Novità in arrivo dalla Cina per il controllo dell’intelligenza artificiale (IA). Nella corsa globale agli strumenti di IA generativa (ovvero quella forma di di machine learning basata sull’apprendimento non supervisionato a partire da un set di dati non etichettati) che ha visto una rapida crescita dopo il lancio di Chat Gpt della statunitense Open AI, anche la Cina guarda con interesse a questa branca del settore tech. Da una parte le aziende locali, che hanno spinto sull’acceleratore per presentare la loro versione di chat-bot a base di machine learning. Dall’altra il governo cinese, pronto a regolamentare l’ennesima innovazione che nelle sue potenzialità creative rischia facilmente di sottrarsi all’ordine tecnologico creato dal Partito comunista cinese in questi anni.
La nuova legge – Lo scorso aprile la Cyberspace Administration of China (Cac), l’ente regolatore della sfera digitale in Cina, ha pubblicato una bozza di legge dal titolo “Misure Amministrative per i Servizi di Intelligenza Artificiale” (生成式人工智能服务管理办法, shēngchéngshì réngōngzhìnéng fúwù guǎnlǐ bànfǎ, qui la versione originale) per regolare le aziende che “forniscono alla cittadinanza della Cina continentale” servizi a base di IA generativa. Si tratta di linee guida che riguardano la protezione dati degli utenti (già regolata nella Repubblica popolare cinese dalla legge sui dati e legge sulla privacy, la Data Security Law e la People Information Protection Law) e sottolineano la problematicità della discriminazione algoritmica nell’utilizzo dell’intelligenza artificiale generativa.
Come già inserito all’interno della normativa sugli algoritmi del 2022, la nuova bozza di legge prevede che le aziende che fanno uso di IA generativa siano sottoposte a una perizia informatica guidata da enti governativi cui fa capo la Cac, all’interno della quale dovranno mantenere la “trasparenza algoritmica”. Si tratta, ancora una volta, di chiedere alle aziende tecnologiche di consegnare alle autorità le chiavi di accesso ai sistemi di profitto alla base del loro modello di business, gli algoritmi, e al contempo di sottoporre i contenuti elaborati tramite queste tecnologie al controllo e alla moderazione del Partito.
La governance delle nuove tecnologie deve dunque rimanere in mano al Partito.
Nella sezione introduttiva della proposta di legge, la CAC indica a proposito che è prerogativa di Pechino “incoraggiare lo sviluppo della tecnologia di IA generativa locale”, ma sottolinea che le aziende cinesi dovranno farlo “adottando risorse, strumenti e software digitali affidabili”. In altre parole, bene continuare sulla via dell’autosufficienza tecnologica, purché sia fatto entro i limiti della supervisione statale.
Responsabilità – Le varie sezioni della proposta rimangono ancora vaghe in merito alla catena di responsabilità nella distribuzione di servizi di IA generativa. Chiaro dalla norma risulta che per IA generativa si intende qualsiasi servizio digitale che utilizzi la il machine learning non supervisionato per “generare contenuti in forma di testo, immagini, audio, video e codici grazie all’utilizzo di modelli algoritmici”. Video, immagini deep fake, testi copiati. Tutto è lecito.
Non è indicato se chi dovrà rispondere dell’applicazione di questa nuova legge saranno le aziende che utilizzano l’IA, quelle che programmano le app che fanno utilizzo di IA, o gli utenti singoli che hanno accesso a queste app.
Content moderation – Inequivocabili sono invece le linee guida sulla moderazione e distribuzione di contenuti generati con questo tipo di tecnologia. I provider di IA generativa dovranno infatti assicurarsi che il contenuto elaborato tramite questo meccanismo sia in linea con “l’ordine sociale e la morale” imposta dal governo centrale e che non sia un rischio per l’ormai inflazionata “sicurezza nazionale”.
Menzione positiva sulla discriminazione algoritmica. All’art. 4 della proposta si indica infatti che i data set utilizzati dall’IA dovranno essere “di qualità”, così da evitare problemi di discriminazione algoritmica. Dovranno inoltre essere privi di informazioni false (con l’ultima parola alla CAC su cosa rientri in questa categoria) e in conformità con i diritti di proprietà intellettuale vigenti nel Paese.
La moderazione dei contenuti è sostanzialmente rimandata ai provider, che come già accade per i social media nella Rpc saranno chiamati a filtrare i risultati non in linea con le regolamentazioni della Cac per non incorrere in sanzioni amministrative.
La chat GPT cinese – Lo avevamo già presentato in un approfondimento dello scorso aprile. Si chiama Ernie (che sta per Enhanced Representation of Knowledge Integration) ed è la risposta cinese a Chat GPT, il chat-bot a base di IA e apprendimento automatico creato dalla americana Open AI. Dietro la versione con caratteristiche cinesi c’è il colosso del tecnologico Baidu, già creatrice dell’omonimo motore di ricerca utilizzato in tutta la Rpc. Nella corsa all’intelligenza artificiale il fondatore di Baidu Robin Li non ha perso tempo e ha presentato il suo modello di bot intelligente a giorni di distanza dal lancio del software di Open AI. Il modello cinese è ancora in fase di test e contrariamente a quanto ipotizzato (e sperato) inizialmente dal pubblico cinese non sarà integrato al motore di ricerca dell’azienda, così come invece avvenuto nella fusione tra Bing di Microsoft e Chat GPT.
Il responso dei pochi addetti ai lavori che hanno ricevuto le linee di codice per provare il programma cinese è stato però tiepido, descritto nelle sue funzioni con un semplice “ok” da alcune recensioni. Anche nella sua fase embrionale e i dubbi sulla sua competitività, Ernie sarà verosimilmente uno dei prodotti di punta del mercato cinese nella sempre più stringente competizione tecnologica in corso tra Cina e Stati Uniti.
Di Lucrezia Goldin
Giornalista praticante, laureata con lode al Master of Arts in Chinese Studies presso la Leiden University. Specializzata sui temi di nazionalismo popolare e cyber governance si interessa anche di cinema e identità culturale. Nel 2017 è stata assistente alla ricerca per il progetto “Chinamen: un secolo di cinesi a Milano”. Dopo aver trascorso gli ultimi tre anni tra Repubblica Popolare Cinese e Paesi Bassi, ora scrive di Cina e cura per China Files la rubrica “Weibo Leaks: storie dal web cinese”.
