Intelligenza Artificiale, Cina nuova frontiera del controllo sociale

Analisi di Martina Gargano - Le preoccupazioni dell'Occidente sull'assalto alle libertà personali, l'IA come porta di ingresso verso una società distopica in stile orwelliano, oscurano i benefici dell'innovazione cinese.

1 201 0
1 201 0

di Martina Gargano

(WSC) ROMA – Nel 2017, il Consiglio di Stato cinese ha lanciato il suo “Piano di sviluppo per la nuova generazione dell’Intelligenza Artificiale”, che, anche grazie a massicci investimenti statali, si propone l’ambizioso obiettivo di elevare la Cina a leader mondiale nell’intelligenza artificiale (IA) entro il 2030. 

Secondo quanto riportato dal MIT Technology Review, ci sono buone ragioni per credere che il piano funzionerà. Anche Andrew Ng, che in precedenza ha supervisionato la strategia IA di Baidu (principale motorie di ricerca online cinese), si è definito ottimista circa la buona riuscita del piano.

La reazione dell’Occidente a questo programma non si è fatta attendere, ed ha preso la forma di quella che il Financial Times ha definito come una “corsa agli armamenti IA”. Parallelamente, si è attestata una crescente preoccupazione per lo stato di sorveglianza autoritaria della Cina, nonché per il pericolo che questa venga “esportata” verso altri regimi – totalitari o meno – all’estero. 

Nonostante le preoccupazioni siano più che legittime, utilizzare questo motivo per etichettare unilateralmente la Cina come “il nemico” non è solo eccessivamente semplicistico, ma anche potenzialmente rischioso. È importante, infatti, riconoscere gli effettivi progressi della Cina senza lasciare che la preoccupazione per una deriva autoritaria offuschi tutta l’analisi sull’innovazione cinese nel campo dell’intelligenza artificiale.

Ricerca e innovazione, made in China 

Il settore dell’IA in Cina sta effettivamente attraversando un periodo straordinariamente prospero. Secondo un report dell’Harvard Business Review, nel 2017 i ricercatori cinesi hanno pubblicato ben 37.343 ricerche scientifiche nel campo dell’intelligenza artificiale, che ammontano al 27,68% delle pubblicazioni mondiali nel settore – quota più alta di qualunque altro paese al mondo. E da allora la crescita è tutt’altro che rallentata: nel 2020 si è registrato un ulteriore aumento del 34,5% rispetto all’anno precedente. Inoltre, la Cina deposita più brevetti di qualsiasi altro paese: a marzo 2019 il numero di aziende cinesi che si occupano di intelligenza artificiale ha raggiunto quota 1.189

Chi teme che queste tecnologie possano presto essere utilizzate in Occidente può prendersi una pausa: lo sono già. Si pensi ad esempio all’uso dell’ intelligenza artificiale cinese per la lotta al Covid-19 presso il Policlinico Universitario Campus Bio-Medico, a Roma

Usi controversi: il Sistema di Credito Sociale (SCS)

È impossibile negare, però, che l’intelligenza artificiale si possa prestare facilmente ad un uso ben più controverso. Ne è un esempio lampante il Sistema di Credito Sociale (shèhuì xìnyòng tǐxì 社会信用体系).

Questo sistema viene generalmente definito dai media occidentali come un preoccupante assalto alle libertà personali e come una porta di ingresso verso una società distopica in stile orwelliano. Si tratta sostanzialmente di un insieme di database e iniziative che monitorano e valutano l’affidabilità di individui, aziende ed enti governativi. Ad ogni voce viene assegnato un punteggio di credito sociale, con ricompensa per coloro che hanno un punteggio alto e punizioni per chi ottiene punteggi bassi.

Non è sorprendente che alle orecchie di un occidentale, abituato ad un sistema di valori diverso da quello cinese, questo possa suonare inquietante. Per questo motivo è necessario capire il contesto politico e sociale in cui il sistema si instaura. Innanzitutto, è fondamentale considerare le ragioni pragmatiche alla base della realizzazione del Sistema di Credito: limitare contraffazioni e frodi sul mercato.

La forma originaria del sistema di credito fu infatti progettata come un meccanismo disciplinare volto a punire violazioni fiduciarie (come il mancato rispetto di un obbligo contrattuale) e a regolare le pratiche commerciali. In questo piano a vocazione economica si accennava appena alla sfera sociale e a quella politica.

È solo nel 2012 che la Commissione Nazionale per lo Sviluppo e le Riforme (Fāzhǎn hé Gǎigé Wěiyuánhuì 发展和改革委员会) ha creato un credito di “integrità sociale”, che copriva anche gli ambiti sociale e politico. Allo stesso tempo, la banca centrale cinese ha cominciato ad implementare un proprio sistema di credito finanziario. Di fatto, si erano venuti a creare due sistemi di credito paralleli.

Nel 2014, il governo centrale ha pubblicato il primo grande piano ufficiale sull’SCS, con l’obiettivo – disatteso – di estendere il sistema a tutta la popolazione entro il 2020. Questo piano prende in considerazione entrambe le dimensioni del progetto, quella politico/sociale e quella finanziaria, ma presenta linee guida non sufficientemente dettagliate e questo lascia ampio margine d’errore sia per quanto riguarda la definizione di “credito” sia per i metodi di applicazione del sistema.

A questi sistemi si sono poi aggiunti quelli delle società private, che hanno costruito punteggi di credito commerciali, a volte collegati a programmi di fidelizzazione, di cui Sesame Credit è probabilmente l’esempio più famoso. C’è poi il tentativo di implementazione dell’SCS a livello locale, con alcune città cinesi (tra cui Pechino, Shanghai, Suzhou e Shenzhen) che hanno già adottato un proprio sistema di crediti. Nessuno dei sistemi citati però è connesso con gli altri, ed ognuno presenta specificità diverse nonché diverse accezioni del concetto stesso di “credito”.

Cosa pensano del controllo i cinesi 

L’opinione pubblica cinese ha mostrato reazioni diverse all’SCS. Un ormai famoso studio tedesco ha rilevato un livello sorprendentemente alto di approvazione tra i gruppi di intervistati. Secondo molti di loro, infatti, l’SCS sarebbe in grado di promuovere rapporti onesti nella società e nell’economia. Lo stesso studio però sottolinea anche come, qualora i diversi sistemi esistenti verranno integrati tra loro, l’SCS potrebbe facilmente costituire un potente mezzo nelle mani del governo cinese per reprimere il dissenso, ad un costo relativamente basso e senza implicare l’uso palese (e impopolare) della coercizione da parte dello Stato.

Voci critiche sono state sollevate anche dalla stessa stampa cinese. Xinhua riporta che alcuni sondaggi avviati da diversi media mostrano che oltre il 70% dei partecipanti ritiene che il concetto di credito sia stato generalizzato o addirittura abusato. Similmente, South China Morning Post ha sottolineato come l’aspetto più controverso del sistema di credito sociale è che utilizza dati spesso incompleti o imprecisi. Complessivamente, quindi, l’opinione pubblica cinese sembrerebbe convergere sul supportare il sistema di credito, almeno in linea di principio; ciò che desta maggiore preoccupazione sono piuttosto i metodi di applicazione di questo sistema.

Non un unico sistema, ma diverse iniziative frammentate

Allo stato attuale, sarebbe quindi sbagliato concepire l’SCS come un’entità unica e coesa. Al contrario, il termine copre un intero ecosistema di iniziative frammentate che condividono una serie di obiettivi, quadri operativi e linguaggio politico di base. Uno studio dell’Università di Leida mostra come, nonostante l’utilizzo di big data e intelligenza artificiale, l’SCS rimanga uno strumento relativamente grezzo, ben diverso dall’articolato ritratto che ne fa gran parte della stampa. È certamente vero che l’SCS è concettualmente ben lontano dagli standard occidentali di libertà e privacy; tuttavia, questo non è progettato per essere uno strumento di governo onnicomprensivo, ma solo uno dei tanti strumenti amministrativi che fanno uso dell’IA. Questi possono poi interagire o influenzarsi tra loro, ma rimangono pur sempre distinti.

Tag

Scrivi un commento