Negli ultimi giorni si è tornato a discutere dei rischi legati allo sviluppo dell’intelligenza artificiale. Jacob Coxon, ricercatore con esperienze in OpenAI e Anthropic, ha lasciato l’azienda dichiarandosi preoccupato dalla velocità con cui vengono sviluppati sistemi sempre più potenti e autonomi.
Secondo Coxon, la competizione nel settore potrebbe far crescere le capacità dell’AI più rapidamente della nostra capacità di comprenderne e controllarne i rischi.
A rafforzare il dibattito è intervenuto Evan Hubinger, responsabile dell’Alignment Science di Anthropic. Hubinger ha dichiarato di attribuire personalmente una probabilità superiore al 10% a uno scenario catastrofico per l’umanità nel prossimo decennio. Si tratta, però, di una valutazione personale e non di una previsione certa o di una posizione ufficiale dell’azienda.
Quali sono i rischi dell’intelligenza artificiale?
Il timore non riguarda necessariamente robot “cattivi”, ma sistemi capaci di operare con crescente autonomia, scrivere codice, utilizzare strumenti informatici e coordinare attività complesse.
La domanda è quindi se le capacità dell’AI possano crescere più rapidamente dei controlli, delle regole e delle misure di sicurezza necessarie per gestirle.
L’AI di oggi è già molto più avanzata rispetto a pochi anni fa: lavora con testo, immagini, video, voce e codice, analizza grandi quantità di dati e può svolgere sequenze di attività con una supervisione limitata.
Questo non significa che una superintelligenza sia imminente, ma rende difficile prevedere l’evoluzione futura basandosi soltanto sui limiti attuali.
Perché la governance è importante
Rallentare completamente lo sviluppo dell’AI non sembra una soluzione realistica. La tecnologia offre benefici concreti, ma deve essere accompagnata da regole e controlli adeguati.
Anche nelle aziende è fondamentale stabilire:
- quali dati possono essere utilizzati;
- quali attività possono essere automatizzate;
- quali risultati devono essere verificati;
- chi è responsabile in caso di errore;
- dove deve rimanere la supervisione umana.
La sicurezza dell’intelligenza artificiale non riguarda quindi soltanto scenari estremi. Comprende anche la protezione dei dati, la trasparenza dei processi e la capacità di mantenere il controllo sugli strumenti adottati.
L’AI potrebbe davvero eliminare l’umanità?
Oggi non lo sappiamo.
Alcuni esperti considerano plausibili scenari molto gravi, mentre altri ritengono queste previsioni troppo speculative. Trasformare una valutazione personale in una certezza sarebbe sbagliato, così come ignorare completamente il problema.
La vicenda Anthropic ricorda però un principio importante: più l’AI diventa potente, più è necessario sviluppare sistemi di controllo, sicurezza e governance capaci di tenere il passo con la sua evoluzione.
