L’intelligenza artificiale sarà la nostra autodistruzione, nel momento in cui la tecnologia senza controllo umano prenderà il sopravvento
“C’è poco da stare
allegri!” - È la mia amica Rosamunda, accademica, letterata, sociologa e
partenopea di adozione, che così esprime la propria preoccupazione nei
confronti delle sempre più sofisticate applicazioni tecnologiche nel nostro
sistema di vita, via via più invadenti e pericolosamente irrispettose della
nostra riservatezza.
“Siamo già
arrivati al giorno delle macchine?” Mi chiede.
“Ci siamo o
quasi!” Le rispondo.
La conversazione
va così avanti e Rosamunda mi domanda se anch’io condividessi le sue
preoccupazioni per l’avanzamento tecnologico riguardante la realizzazione di
intelligenze artificiali.
Le rispondo e
disserto per come segue:
L’astrofisico Stephen
Hawking al Web Summit di Lisbona, nel novembre del 2017,
mise in guardia l’umanità su un grosso pericolo futuro: l’intelligenza
artificiale.
“L’intelligenza
artificiale potrebbe sviluppare una volontà tutta sua”,
aveva detto Hawking. “L’ascesa dell’IA potrebbe essere la cosa peggiore o
la cosa migliore che può accadere per l’umanità”.
Oggi, in
particolare, la pandemia, tra le tante altre cose, ha fatto squillare il
campanello d’allarme sulla raccolta e sull’utilizzo dei nostri dati personali
quali, ad esempio, le analisi sul comportamento quotidiano, sulle preferenze
nonché sulle tendenze ideologiche, la registrazione delle nostre
frequentazioni, dei nostri dislocamenti, dei depositi e dei prelievi in denaro
contante, delle transazioni con carte di credito, la videosorveglianza (in
Cina, oltre al monitoraggio dei cittadini già all’ordine del giorno, i cani
robot sorvegliano gli spazi pubblici), i localizzatori GPS e GSM dei telefonini
e quant´altro immaginabile. Il tutto dettagliatamente schedato e classificato.
Ci manca molto
poco per arrivare al punto da farci innestare, come si fa con i cani, un chip
sottocutaneo per poter registrare persino i nostri sentimenti nei momenti più
intimi, tra le mura domestiche (nella camera da letto o addirittura nel bagno).
E non parliamo poi
delle ultime applicazioni tecnologiche sia in campo civile che militare: auto a
guida autonoma e addirittura velivoli bellici, senza equipaggio e dotati di
intelligenza propria (droni), che decidono autonomamente sulla vita o sulla
morte del prossimo.
La tecnologia,
sostengo, nei settori più sensibili può collaborare con l’essere umano, ma non
può sostituirlo.
Da tempo, ad
esempio, è in uso il riconoscimento facciale da parte delle polizie di vari
paesi del mondo, ma sulla infallibilità del sistema si sta già discutendo e non
poco. Basta pensare che per la polizia londinese, con questo mezzo tecnologico,
la percentuale di errore ammonta al ragguardevole 98% dei casi e negli USA la
statistica non migliora un granché.
Da ciò ci rendiamo
sempre più convinti che nelle situazioni eticamente sensibili ci debba stare
l’essere umano accanto o dietro i processi elaborativi della macchina. Essa da
sola non può decidere le sorti degli individui, né tampoco dei popoli, ancorché
dotata della massima tecnologia immaginabile.
V’è molto di più
e, attenzione, si tratta di qualcosa ben più grave: da un certo tempo, per come
sospetta una certa corrente spregiudicata di tecnologi dell’informazione,
l’obiettivo fotografico del nostro telefonino o del nostro PC starebbe già
filmando, furtivamente, le nostre giornate trasmettendole al CED (Centro
Elaborazione Dati) addetto alla sorveglianza di massa e al servizio dei giganti
della tecnologia.
Se ciò fosse vero,
poveri noi, saremmo veramente messi male!
In realtà non
navighiamo nel campo della fantascienza, ma nel campo delle ipotesi verosimili,
dell’eventualità. Oggi con la scusa di isolare il virus e domani con qualsiasi
altra motivazione, si chiede o meglio si impone all’impaurita società la
massima trasparenza anche laddove l’etica e le leggi non lo permettono.
Ma nonostante
l´insorgenza di siffatti effetti riprovevoli, il binomio
"Uomo-Scienza", il desiderio di ricercare e cioè di conoscere, rimane
uno degli istinti più profondi dell´essere umano. Esso esiste da sempre e oggi
appare più appagabile che mai, anche perché viviamo in un´epoca in cui abbiamo
a disposizione gli strumenti idonei per scoprire i più reconditi segreti
della natura.
Tornando all´IA,
per meglio addentrarci nell’argomento relativo al pericolo costituito dalle
“macchine”, ci pare opportuno riportarci all’apice del fantascientifico, oggi
attuale più che mai: un colossal diretto da Stanley Kubrick, scritto assieme ad Arthur C. Clarke, che i lettori della terza età avranno sicuramente
visto in prima visione nelle sale cinematografiche sparse per il mondo, oppure
letto in edizione cartacea nel romanzo omonimo pubblicato nel 1968, lo stesso
anno di esordio in anteprima mondiale del film “2001, Odissea nello spazio”.
Uno dei temi
fantascientifici, da antologia, che maggiormente ci colpirono in quel
film-documentario è stato quello che riguardava il moderno Prometeo; il
supercomputer HAL 9000 e la sua ribellione.
Infatti, HAL nel
film agisce dotato di una sofisticata intelligenza artificiale: ha un occhio,
più perfetto di quello umano, che gli permette persino di leggere il labiale
degli astronauti. Il suo timbro vocale è completamente naturale e sembra in
grado di provare sentimenti umani. Naturalmente è in condizione di fare tutto
ciò che un umano riesce a fare. Sa anche fare del male e, impressionantemente,
persino uccidere, quando si sente minacciato e si rende conto della possibilità
di essere "disinstallato".
La ribellione
della macchina è un punto di domanda molto preoccupante!
Allo stato è
soltanto uno scenario proposto dalla fantascienza, che raffigura il sopravvento
da parte di congegni meccanici (siano essi sotto forma di computer o di robot)
ai danni della specie umana, ma nella realtà, nel momento in cui la macchina
raggiungerà una super emancipazione tecnologica, acquistando autocoscienza ed
intelligenza, scatenerà l’inevitabile e pericolosa competizione tra la
tecnologia e il genere umano.
Eppure, la scienza
continua nell’affannoso lavoro di ricerca sull’interazione uomo-macchina
attraverso l’integrazione degli studi interdisciplinari di scienze sociali e
bio-ingegneristiche nonché tra corporeità ed epistemologia sociale al fine di
realizzare una “creatura” dalle sembianze quasi umane e in grado di
sviluppare abilità simili a quelle possedute dai comuni mortali e magari molto
di più.
A conferma
dell’affannoso e atavico desiderio dell’uomo di creare un alter ego, un Avatar
ovvero un io che prende vita dalla nostra anima, per poi acquisirne una
propria, che possa operare nel fantastico mondo del reale al confine col
virtuale, indichiamo gli antesignani di HALL 9000.
Del primo di essi
si ha notizia negli antichi testi sacri, in cui si parla del Golem, che
è una figura antropomorfa immaginaria della mitologia ebraica, una specie di
robot, fedele esecutore degli ordini del proprio padrone. Il filosofo e
matematico Archita di Taranto del IV
secolo a.C., secondo le testimonianze del suo tempo, avrebbe costruito un
uccello meccanico in grado di volare tra i rami degli alberi. Seguono i diversi
robot intelligenti delle civiltà scomparse di Creta e dell’antica Cina e, non
ultimi, gli automi del grande Leonardo da
Vinci, di cui esistono i disegni e i progetti riscoperti solo negli anni
cinquanta nel codice Atlantico e in piccoli taccuini tascabili databili intorno
al 1495-1497.
Altre leggende di
varie epoche ci descrivono ancora l’esistenza di esseri artificiali che
avrebbero avuto il compito di obbedire ciecamente ai comandi dei loro
“creatori”.
Del resto, la
cinematografia fantascientifica ci anticipa con inquietante verosimiglianza
quali saranno le macchine umane del futuro prossimo ovvero i cyborg, che - a
seconda della loro origine - vengono divisi in tre categorie:
- Esseri umani
potenziati con ingegnosi modificazioni artificiali ed innesti. Il protagonista
del film Io, Robot (2004), per
esempio, ha un braccio e altri organi cibernetici.
- Extraterrestri
anch’essi potenziati e divenuti cyborg al pari degli umani di cui anzi. In Guerre Stellari, Dart Fener ha arti
cibernetici e una speciale armatura, che gli garantisce il mantenimento in
vita.
- Androidi, cioè
robot umanoidi, provvisti di componenti biologiche allo scopo di approssimare
al massimo le loro sembianze a quelle umane. È il caso del cyborg, assassino
protagonista del film Terminator
(1984) e di tutta la serie successiva.
Riassumendo, tutti
questi dati ci rendono l’idea di come l’anelito dell’uomo, in ogni tempo, sia
stato diretto verso un mondo virtuale, di cui potesse avere il controllo
totale.
Fin qui tutto
bene, ma - perché ci sia anche il lieto fine - la “conditio sine qua non”
resta il menzionato e problematico controllo totale del creatore sulla
creatura!
A questo punto, va
da sé concludere che il sistema di elaborazione dati, nonché l’intelligenza
artificiale, nell’accezione più ampia, se da una parte possono facilitare il
sistema di vita dell’essere umano, dall’altra, se non resi trasparenti e
assolutamente controllabili dall’uomo, costituiscono, ripetiamolo, un pericolo
dalle conseguenze incalcolabili.
L’intelligenza
artificiale, infatti, va presa con le pinze, per non rimanere scottati: gli
aspetti etici, teorici e pratici sono le sue peculiarità e non a caso
scienziati di tutto rispetto hanno denunciato in più tempi il pericolo di una
eventuale disubbidienza della “creatura” ai comandi o ai programmi del
creatore.
Il sunnominato Stephen Hawking nel 2014 ha messo in
guardia riguardo ai pericoli dell'intelligenza artificiale, considerandola una
minaccia per la sopravvivenza dell'umanità, e nello stesso anno anche il fisico
Elon Musk ha ribadito: “Dobbiamo
essere superattenti all'intelligenza artificiale. Potenzialmente più pericolosa
del nucleare.”
” Oggi
realizziamo più di quanto non siamo poi in grado di controllare, nemmeno con
l'immaginazione”. È il sociologo Günther Anders, ne “L’uomo è antiquato”, ed. 1956, ad affermarlo.
Quanto sopra
esposto ci induce ad una seria riflessione: se oggi l’IA agli occhi dei governi
non rappresenta alcun pericolo e ciò si spiega col fatto che essa asseconda i
loro interessi immediati, è pur vero che la stessa provocherà conseguenze
decisamente negative nel futuro dell’umanità.
Infatti, le nuove
tecnologie permetteranno ai possessori, legittimi o meno, dei dati personali di
tenere in scacco e manipolare l’essere umano grazie alle numerose informazioni
biologiche nel tempo raccolte.
In principio,
l’intelligenza artificiale è già di per se stessa un pericolo. Elon Musk, il fisico visionario già
menzionato, fondatore di Tesla e SpaceX, ancora una volta, si schiera contro
l’Intelligenza Artificiale. Egli teme che con essa possa nascere un “dittatore
immortale” digitale, capace di annientare l’uomo qualora quest’ultimo dovesse
risultare d’ostacolo ad un suo eventuale obiettivo (vedansi p.e. HAL 9000 e
Joshua in Wargames).
Se sia distopia o
un reale problema da risolvere ancora non ci è molto chiaro, ma una cosa è
certa: il tempo stringe!
Per questo motivo,
oggi più che mai, si rende necessario stabilire, con l’urgenza che il caso
richiede e di comune accordo tra i diversi Stati, una serie di politiche di
amministrazione e legiferazione nei riguardi delle tecnologie dell’IA, nel
rispetto dei diritti universali e attraverso un dialogo aperto tra tutti gli
interessati ovvero tra chi governa, tra chi produce, tra chi fa ricerca, e,
perché no, tra i cittadini.
E per chiudere,
sperando di non essere stato prolisso e con l’intento di strappare un sorriso
alla mia preoccupata e attenta interlocutrice (Rosamunda), rievoco un detto del
famoso scrittore e giornalista americano Sydney
J. Harris, che ironicamente così recita: “Il vero pericolo non è
che i computer inizieranno a pensare come gli uomini, ma che gli uomini
cominceranno a pensare come i computer”.
G. & G. Arnò