Le ampie regole che la Cina vuole regolamentare riguarderanno gli algoritmi che stabiliscono i prezzi, controllano i risultati delle ricerche, raccomandano i video e filtrano i contenuti.
Questo è il piano della Cina per regolamentare l’Intelligenza Artificiale
Una marketer di Shanghai nel settore dell’ospitalità, Wen Li, ha sospettato per la prima volta che un algoritmo si stava “prendendo gioco di Lei” quando una sera Li e un’amica hanno usato la stessa app di ride-hailing.
L’amica di Wen, che utilizza molto meno l’applicazione, ha visto un prezzo più basso per la stessa corsa. Wen ha incolpato gli algoritmi dell’azienda, dicendo che volevano spremere più soldi da lei.
Le compagnie di ride-hailing cinesi dicono che i prezzi variano a causa delle fluttuazioni del traffico. Alcuni studi e notizie però affermano che queste app possono offrire prezzi diversi in base a fattori come lo storico delle corse e il telefono che una persona utilizza.
Il primo marzo, la Cina ha dichiarato fuori legge questo tipo di discriminazione algoritmica come parte di quello che potrebbe essere il più ambizioso sforzo del mondo per regolare l’intelligenza artificiale. Secondo le regole, alle aziende sarà vietato utilizzare le informazioni personali per offrire agli utenti prezzi diversi per un prodotto o un servizio.
Le vaste regole coprono tutti gli algoritmi che fissano i prezzi, controllano i risultati di ricerca, raccomandano i video e filtrano i contenuti. Può essere interessante anche comprendere come questi filtri vengono classificati. Imporranno quindi nuovi limiti alle principali società di ride-hailing, ecommerce, streaming e social media.
I regolamenti estenderanno uno straordinario giro di vite sulle aziende tecnologiche più popolari e di maggior valore della Cina. “Alcuni segnali e tendenze malsane e disordinate si sono verificate nel rapido sviluppo dell’economia digitale del nostro paese“, ha detto il presidente Xi Jinping in un discorso di ottobre, secondo una traduzione della newsletter Pekingnology.
I politici nel resto del mondo stanno prendendo nota. “Ero proprio questa mattina in una riunione con il Ministero degli Affari Esteri olandese, quando mi è stato chiesto se la Cina sta facendo cose che noi non stiamo facendo“, dice Rogier Creemers, un esperto di diritto e governance cinese all’Università di Leiden in Olanda. “Si stanno muovendo estremamente velocemente“.
I regolamenti, noti come Internet Information Service Algorithmic Recommendation Management Provisions, sono stati redatti dalla Cyberspace Administration of China, un potente organismo che fa rispettare la cybersicurezza, la censura di internet e le regole del commercio elettronico. Tra le altre cose, vietano gli account falsi, la manipolazione dei numeri di traffico e la promozione di contenuti che creano dipendenza. Forniscono anche protezioni per i lavoratori delle consegne, autisti di taxi e altri gig worker.
Alcune disposizioni mirano ad affrontare le lamentele sui servizi online. Secondo le regole, per esempio, alle aziende sarà vietato utilizzare le caratteristiche personali per offrire agli utenti prezzi diversi per un prodotto; saranno anche tenuti a informare gli utenti, e permettere loro di rinunciare, quando gli algoritmi sono utilizzati per fare raccomandazioni.
Le aziende che violano le regole potrebbero affrontare multe, essere bandite dall’iscrizione di nuovi utenti, avere le loro licenze commerciali ritirate o vedere i loro siti web e applicazioni chiuse.
La popolazione cinese sembra in gran parte favorevole alle misure volte a limitare il potere delle grandi piattaforme tecnologiche.
Lillian Li, fondatrice della pubblicazione tecnologica cinese Chinese Characteristics, paragona il sentimento pubblico sulle aziende tecnologiche all’ambivalenza degli occidentali verso Facebook o Google, che offrono una grande comodità al costo dei dati personali dell’utente.
Gli ultimi 18 mesi hanno dimostrato che i regolatori cinesi non sono timidi nel punire le aziende importanti. L’app di ride-hailing Didi è stata rimossa dagli app store cinesi subito dopo la sua IPO americana a causa delle preoccupazioni del governo sulle sue pratiche di dati. Il gigante dell’e-commerce Alibaba è stato costretto a pagare milioni in multe per violazioni antitrust.
Altri elementi del regolamento sono piuttosto aperti all’interpretazione, per esempio le disposizioni che ordinano alle aziende di “sostenere gli orientamenti di valore tradizionali”, “diffondere vigorosamente l’energia positiva” e “prevenire o ridurre le controversie o le dispute”, secondo una traduzione del progetto DigiChina di Stanford.
Un’altra sezione della proposta richiede alle aziende cinesi di evitare politiche che portino gli utenti a “dipendenza o consumo eccessivo”. Preoccupazioni simili hanno portato al giro di vite dell’anno scorso sulla cultura della celebrità, e a limiti rigorosi su quanto tempo i minori possono trascorrere giocando ai videogiochi.
Anche prima che le regole entrino in vigore, le aziende cinesi stanno già facendo dei cambiamenti. ByteDance, la società con sede a Pechino dietro la popolare app di video brevi Douyin (TikTok), a ottobre ha iniziato a mostrare video di cinque secondi che esortano gli utenti a disconnettersi dopo averli guardati a lungo. La mossa è stata progettata per frenare la dipendenza dal feed curato algoritmicamente. L’azienda ha anche introdotto caratteristiche a Douyin e altre applicazioni che permettono agli utenti di scegliere di non avere informazioni personali inserite negli algoritmi di raccomandazione. Un’indagine di un media cinese ha scoperto che 26 delle 28 app popolari hanno introdotto modi per gli utenti di rinunciare alle raccomandazioni personalizzate l’anno scorso, in risposta a un’altra legge sulla protezione dei dati privati.
Le aziende tecnologiche cinesi controllano attentamente i contenuti per rispettare le regole sulla condivisione di informazioni che il governo ritiene dannose. All’inizio di questo mese, la piattaforma di social media Weibo ha rimosso 71.000 messaggi che attaccano gli atleti olimpici, tra cui il pattinatore di figura di origine americana Zhu Yi, che gareggia per la Cina. Tencent Video ha pubblicato una versione del film Fight Club del 1999 con un finale alterato dal distributore cinese (l’originale è stato rapidamente ripristinato). E le scene che rappresentano temi LGBT in Friends, una sitcom molto popolare, sono state eliminate o alterate sulle piattaforme di streaming cinesi.
Una proposta separata, ma correlata, mira ad affrontare il “contenuto sintetico“, un termine ombrello che comprende fake news, audio sintetico, immagini e video deepfake, quest’ultima è una tecnologia in cui il volto di una persona è “cucito” su qualcun altra utilizzando l’Intelligenza Artificiale. Tra le disposizioni, i produttori di software deepfake sarebbero tenuti a verificare i nomi reali dei creatori e “etichettare in modo evidente” qualsiasi contenuto deepfake. Le app deepfake, popolari in Cina, hanno suscitato un dibattito pubblico sulla privacy e la proprietà dei dati personali.
Le regole sull’Intelligenza Artificiale della Cina non sono le prime al mondo. L’Unione europea ha proposto regolamenti che limiterebbero l’uso del riconoscimento facciale, vietano la manipolazione algoritmica, e regolano i prodotti abilitati all’IA come chatbot e giochi per computer. Ma le regole dell’UE, redatte nell’aprile 2021, potrebbero essere discusse ancora per diversi anni.
Silvia De Conca, una studiosa di diritto presso l’Università Vrije nei Paesi Bassi, dice che ci sono paralleli tra i regolamenti della Cina e la legislazione proposta dall’UE. In particolare l’attenzione sull’informazione degli utenti e la possibilità di rinunciare al targeting, però con una differenza.
I legislatori europei tendono a pensare in termini di promozione dei mercati e dei diritti degli individui; in Cina, al contrario, c’è un’enfasi sul benessere della società. Le autorità “vedono questi problemi come questioni collettive”, dice, indicando le regole che affrontano la moralità e i “valori tradizionali”.
I regolamenti cinesi sono molto più ambiziosi di qualsiasi cosa sia stata presa in considerazione a livello nazionale negli Stati Uniti, che ha generalmente adottato un approccio hands-off all’IA. L’uso del riconoscimento facciale da parte della polizia è limitato solo in alcune città. Un Algorithmic Accountability Act, proposto nel Senato degli Stati Uniti, mira a controllare gli algoritmi che discriminano per genere o razza, ma non è progredito oltre le audizioni legislative. I senatori Amy Klobuchar (D-Minnesota) e Cynthia Lummis (R-Wyoming) hanno recentemente introdotto una legislazione che richiederebbe alle piattaforme di implementare strumenti per “ridurre la dipendenza e l’amplificazione di contenuti dannosi”. Anche se tali disegni di legge dovessero passare, tuttavia, probabilmente dovrebbero affrontare sfide legali da parte delle aziende tecnologiche.
“Gli Stati Uniti sono tristemente indietro in questo spazio, e potrebbero avere bisogno di prendere un migliore grado di leadership, e contribuire a stabilire le norme per come la tecnologia può essere utilizzata”, dice Russell Wald, direttore della politica per l’Istituto di Stanford per l’intelligenza artificiale Human-Centered.
Wald sostiene che la Cina è ben posizionata per influenzare gli altri paesi.
Egli nota che le regole non si applicheranno all’uso di algoritmi o dati da parte del governo, e dice che alcune nuove regole, come quelle che promuovono valori particolari, riguardano il mantenimento del controllo del governo. “Stiamo parlando di una regolamentazione che è orientata a beneficiare il regime”, dice.
Gli sforzi per regolare le nuove tecnologie ingannevoli in un paese o in una regione hanno talvolta avuto un impatto percepibile altrove. Il regolamento generale sulla protezione dei dati dell’UE, che è entrato in vigore nel 2018 e limita l’uso dei dati privati da parte delle aziende, ha influenzato le politiche aziendali in tutto il mondo.
“Ciò che è interessante in Cina è che saranno in grado di eseguire esperimenti su larga scala su ciò che significa effettivamente implementare queste idee”. dice Matt Sheehan, lavoratore del Carnegie Endowment for International Peace che studia l’ecosistema cinese dell’IA.
Altri paesi, tra cui il Pakistan, gli Emirati Arabi Uniti e il Giappone, stanno esplorando strategie per gestire l’IA. I nuovi regolamenti della Cina saranno probabilmente più influenti nei paesi che hanno già forti legami con la Cina.
Fonte: https://www.wired.com/story/china-regulate-ai-world-watching/
