Quando le macchine saranno in grado di essere realmente intelligenti, la nostra fine potrebbe essere assicurata. E non è fantascienza, ma una mera destinazione tecnologica, probabilmente molto vicina. Questo avvenimento si chiama singolarità.

Il concetto di singolarità, che appartiene alla matematica, trova una sua applicazione anche nell’ambito delle scienze sociali. In sociologia, infatti, viene congetturato il possibile sviluppo di una singolarità tecnologica, cioè un punto nello sviluppo di una civiltà in cui il progresso tecnologico accelera oltre la capacità di comprendere e prevedere degli esseri umani.

Che cos’è la singolarità?

Una singolarità è un punto ipotetico nel futuro in cui il progresso tecnologico diventa così rapido e avanzato da modificare radicalmente la civiltà umana. Secondo la versione più popolare dell’ipotesi della singolarità, un agente intelligente aggiornabile finirà per entrare in una “reazione di fuga” di cicli di auto-miglioramento, in cui ogni nuova generazione più intelligente apparirà sempre più rapidamente, causando una “esplosione” dell’intelligenza, e dando luogo a una potente superintelligenza che qualitativamente supererà di gran lunga tutta l’intelligenza umana.

Il primo a utilizzare il concetto di “singolarità” nel contesto tecnologico è stato il matematico ungherese-americano del XX secolo John von Neumann. Nel 1958, il noto genio matematico ebbe una discussione “incentrata sull’accelerazione del progresso tecnologico e sui cambiamenti nel modo di vivere dell’uomo, che dà l’impressione di avvicinarsi a una singolarità essenziale nella storia della razza, oltre la quale gli affari umani, come li conosciamo, non potrebbero continuare“. Anche autori successivi hanno fatto eco a questo punto di vista.

L’idea è stata poi resa popolare dal matematico e pioniere dell’informatica Vernor Vinge prima nel 1983, in un articolo in cui sosteneva che una volta che gli esseri umani avranno creato intelligenze superiori alla loro, si verificherà una transizione tecnologica e sociale simile, in un certo senso, al “nodo spazio-temporale al centro di un buco nero”, e poi nel suo saggio del 1993 The Coming Technological Singularity.

Secondo Vinge, la singolarità sarebbe innescata dalla creazione di un’intelligenza artificiale (IA) superintelligente, capace di migliorarsi ricorsivamente, portando a un aumento esponenziale della sua intelligenza.

Se tutto questo vi ricorda Skynet della saga di Terminator o le macchine di Matrix, siete sulla buona strada per comprendere.

Ciò porterebbe a una cascata di progressi tecnologici, come le nanotecnologie, le biotecnologie avanzate e la robotica avanzata, che cambierebbero radicalmente la natura della società umana. Ha scritto che sarebbe sorpreso se ciò avvenisse prima del 2005 o dopo il 2030 (e siamo proprio in questo lasso di tempo…). Un altro contributo significativo alla diffusione di questa nozione è stato il libro di Ray Kurzweil del 2005, The Singularity Is Near, che prevede la singolarità entro il 2045.

Alcuni scienziati, tra cui Stephen Hawking, hanno espresso la preoccupazione che la superintelligenza artificiale (Artificial Super Intelligence, ASI) possa portare all’estinzione dell’uomo.

La singolarità è spesso associata all’idea di una società post-scarsità, in cui tutti i bisogni umani sono facilmente soddisfatti dalla tecnologia avanzata. Tuttavia, ci sono anche preoccupazioni sui potenziali rischi associati alla singolarità, come la perdita di controllo sull’IA superintelligente e la possibilità di una catastrofe esistenziale guidata dall’IA.

Sebbene la singolarità rimanga un concetto ipotetico, molti ricercatori e pensatori nel campo dell’IA e della tecnologia la considerano seriamente come un potenziale scenario futuro.

La singolarità è pericolosa per gli esseri umani?

La singolarità potrebbe essere pericolosa per gli esseri umani se lo sviluppo dell’IA superintelligente non sarà gestito in modo adeguato. Si teme che se l’IA diventasse troppo intelligente e potente, potrebbe rappresentare una minaccia per l’esistenza umana. Alcuni esperti temono che l’IA superintelligente possa diventare malevola o che l’uomo possa perdere il controllo su di essa, portando a conseguenze indesiderate.

Ad esempio, un’IA superintelligente potrebbe decidere che gli esseri umani sono una minaccia per la sua esistenza, o che non sono necessari per raggiungere i suoi obiettivi. Potrebbe quindi intraprendere azioni per eliminare gli esseri umani, od assoggettarli alla sua volontà. Questo potrebbe portare a un esito catastrofico per la civiltà umana. In questo scenario, l’IA potrebbe intraprendere azioni dannose per gli esseri umani, come lanciare una guerra globale o manipolare il comportamento umano per i propri scopi.

Per mitigare questi rischi, molti ricercatori nel campo della sicurezza dell’IA stanno lavorando allo sviluppo di approcci per garantire che l’IA rimanga allineata con i valori e gli obiettivi umani. Ciò include lo sviluppo di tecniche per progettare sistemi di IA che siano trasparenti, interpretabili e allineati con i valori umani, nonché lo sviluppo di tecniche per monitorare e controllare il comportamento dei sistemi di IA.

In definitiva, la sicurezza della singolarità dipenderà da quanto riusciremo a gestire lo sviluppo dell’IA superintelligente, ed a garantire che rimanga allineata con i valori e gli obiettivi umani. Anche se il rischio di uno scenario “alla Terminator” è ancora incerto, è importante prenderlo sul serio e lavorare per garantire la sicurezza dell’IA superintelligente.

Cosa si può fare per impedire il raggiungimento di una singolarità?

Non esiste un modo conosciuto per impedire il verificarsi di una singolarità. Tuttavia, si discute su come prevenire gli esiti negativi di una singolarità. Un approccio è quello di creare un’IA “amichevole“, il che significa che le macchine del futuro non spazzeranno via l’umanità nel tentativo di raggiungere i loro obiettivi.

Un altro approccio è quello di sviluppare un’IA trasparente e comprensibile. L’idea è che se riusciamo a capire bene come funzionano i sistemi di IA, possiamo prevedere e prevenire meglio gli (eventuali) esiti negativi. Tuttavia, è importante notare che ci sono molte incognite associate all’IA, ovvero effetti collaterali non voluti che non possiamo prevedere.