Episode Details
Back to EpisodesCeux qui construisent l'IA démissionnent en disant qu'elle pourrait nous tuer. Sam Altman a dit à ses équipes qu'OpenAI ralentirait, si les autres laboratoires le font aussi
Description
L'agence Bloomberg a rapporté le 10 septembre que Sam Altman a dit à tout le personnel d'OpenAI que l'entreprise est prête à ralentir le développement de son IA la plus avancée, de préférence de concert avec les autres laboratoires, tout en admettant que certains pourraient refuser. Cette déclaration clôt une semaine où le chercheur Jacob Coxon a quitté Anthropic en accusant les laboratoires de « foncer vers une superintelligence auto-améliorante en jouant avec nos vies » (plus de 150 millions de vues), où un responsable de l'alignement d'Anthropic, Evan Hubinger, lui a publiquement donné raison en estimant à plus de 10 % le risque d'extinction d'ici dix ans, où deux autres chercheurs en sécurité ont quitté Anthropic et Google DeepMind pour l'évaluateur indépendant METR en déclarant qu'« il n'y a pas d'adultes dans la pièce », et où OpenAI elle-même a demandé au Congrès des règles de sécurité nationales obligatoires. Les deux entreprises se préparent à entrer en bourse, et OpenAI entraîne déjà un modèle plus puissant qu'Astra.
Continue the story on unscarcity.ai: