Intelligenza artificiale: nasce il centro per lo studio del rischio esistenziale

Potrà mai l’intelligenza artificiale superare quella umana e diventare un pericolo per la nostra specie? La domanda sembra fantascientifica, ma secondo gli scienziati di Cambridge, non lo è del tutto, o, perlomeno, non sappiamo dimostrare perchè non potrebbe succedere, e quindi vale la pena di aprire una ricerca in proposito. E’ questo l’obiettivo  di un nuovo Centro chiamato Centre for the Study of Existential Risk (CSER), centro per lo studio del rischio esistenziale, in cui un filosofo, uno scienziato e un ingegnere informatico si sono riuniti  per affrontare l’evoluzione delle tecnologie umane che potrebbero rappresentare il rischio di estinzione per la nostra specie, dalle biotecnologie all’intelligenza artificiale.

I computer oggi dominano la nostra vita in vaste aree del pianeta, sono fondamentali per la Governance dei paesi, sono alla base dell’economia, sono di grande aiuto nella sanità e facilitano la maggior parte delle forme di comunicazione. La tecnologia avanza per la maggior parte senza controllo e senza sosta.

La domanda che si pongono gli esperti del nuovo centro è proprio se la tecnologia che avanza al galoppo finirà prima o poi per inghiottirci.

“Ad un certo punto, in questo secolo o il successivo, ci potremmo trovare di fronte a uno dei grandi cambiamenti della storia umana – forse anche della storia cosmica – quando l’intelligenza sfuggirà ai vincoli della biologia”, spiega Huw Price,  uno dei tre fondatori del centro, parlando del possibile impatto dell’intelligenza artificiale  generale (AGI), come viene chiamata oggi.

” Dobbiamo prendere sul serio la possibilità che ci possa essere un momento in cui il ‘vaso di Pandora’ dell’ AGI si aprirà e che, se non considerato, potrebbe essere disastroso. Non voglio dire che siamo in grado di prevedere con certezza, nessuno è attualmente in grado di farlo, ma questo è il punto! Con così tanto in gioco, abbiamo bisogno di fare un lavoro migliore per comprendere i rischi di tecnologie potenzialmente catastrofiche. “

Jaan Tallinn è un ingegnere informatico, fondatore di Skype. Ecco cosa dice Price di Tallin: “Egli (Tallinn) ha detto che nei suoi momenti di pessimismo si sentiva di avere più probabilità di morire per un incidente relativo all’intelligenza artificiale che da cancro o malattie cardiache. Ero affascinato dal fatto che una persona con i piedi così ben saldi a terra nel settore prendesse questo come un problema serio, e sono stato colpito dal suo impegno nel voler fare qualcosa a riguardo “.

Gli uomini oggi si muovono più velocemente, vivono più a lungo, e possono distruggere ad un ritmo feroce. E usiamo la nostra tecnologia per farlo. Tallin, partendo dal presupposto che un uomo sia il suo cervello e che questo sia riproducibile, è convinto che saremo presto in grado di costruire una complessità simile a quella del nostro cervello e che addirittura questa complessità potrebbe essere maggiore della nostra.

 “La filosofia di base è che dovremmo prendere sul serio il fatto che stiamo arrivando al punto in cui le nostre tecnologie sono in grado di minacciare la nostra stessa esistenza – in un modo che, semplicemente, non è mai successo fino ad ora, nella storia umana,” afferma Price. “Dovremmo investire un po’ delle nostre risorse intellettuali a spostare qualche probabilità verso gli esiti negativi invece che verso quelli positivi”

Price riconosce che alcune di queste idee possono sembrare inverosimili, roba da fantascienza, ma insiste sul fatto che questo fa parte della questione. Il fatto è che di questo ambito ci si è occupati poco. Per questo lo scienziato si augura che in un humus come quello di Cambridge le migliori menti potranno collaborare e esplorare i rischi tecnologici sia nel futuro vicino che in quello lontano.