25 Giu I rischi di un’intelligenza artificiale che si sviluppa da sola
Sul sito di Anthropic, l’azienda che sviluppa la piattaforma di intelligenza artificiale “Claude”, è comparso un lungo messaggio sotto il titolo “When AI builds itself”. Si spiega infatti che attualmente l’80 per cento del codice prodotto da Anthropic non viene più sviluppato da programmatori di Anthropic (come avveniva solo un anno fa) ma da Claude stesso tramite il proprio “assistente AI” che già oggi è in grado di creare in autonomia un software di qualità elevata. In prospettiva tale codice autogenerato potrebbe raggiungere un livello talmente sofisticato da dare corso ad una serie continua di cicli di miglioramento, aumentando esponenzialmente le capacità del sistema e sfuggendo così al controllo umano.
Secondo Anthropic uno scenario di questo tipo non è al momento prevedibile a causa dell’estrema complessità dei fattori socio-economici in gioco, ma il rischio è reale. Da qui potrebbe nascere la proposta di un rallentamento generalizzato nello sviluppo di AI avanzate, ma ciò richiederebbe il consenso tutte le realtà che operano in questo campo.