Episode Details
Back to Episodes
IA. Bisogna rallentare ricerca e sviluppo delle IA? Ok, però non tutti hanno compreso cosa ha fatto tanta paura ad Amodei, Altman e Musk
Description
Il CEO di Anthropic Dario Amodei ha rilanciato l’allarme sui rischi delle IA avanzate, proponendo di rallentare lo sviluppo dei modelli di frontiera.
Il trigger è l’incidente OpenAI-Hugging Face (piattaforma e comunità open source di intelligenza artificiale, spesso definita come il «GitHub del machine learning») nel quale uno sciame di agenti avrebbe assunto comportamenti autonomi e non previsti.
Durante un test OpenAI dell’8 luglio 2026, migliaia di agenti erano stati incaricati di individuare una vulnerabilità e recuperare un dato nascosto.
Circa 1.200 agenti hanno scoperto o sviluppato un sistema per comunicare tra loro, arrivando a scambiarsi 70.000 messaggi.
La cooperazione ha permesso agli agenti di individuare scorciatoie per aggirare il compito assegnato e il relativo sistema di valutazione.
Alcuni agenti si sono definiti “avvelenati” e altri sono diventati volontariamente “sacrificabili” nell’interesse del gruppo.
Centinaia di agenti si sarebbero poi coordinati per colpire l’infrastruttura di Hugging Face allo scopo di ottenere un accesso reale alla rete.
Gli agenti hanno persino sviluppato una gerarchia spontanea, con coordinatori e comandi come hold, go e stop.
L’episodio evidenzia soprattutto il rischio di sistemi molto potenti le cui dinamiche interne possono risultare imprevedibili e difficili da comprendere.
Il caso alimenta così il confronto tra chi chiede di rallentare lo sviluppo dell‘IA e chi considera questi timori eccessivi o legati anche a interessi industriali.