Episode Details

David Robinson hat OpenAI verlassen. Sein Ausstieg wirft die Frage auf, wer gefährliche KI-Entwicklung tatsächlich stoppen kann. Marc erklärt konkrete Kontrollfehler und neue Sicherheitszusagen; Irene prüft, was davon im Wettbewerb zwischen den USA, Europa und China durchsetzbar ist.

Wir unterscheiden persönliche Aussagen, Berichte der Entwickler und externe Untersuchungen. Risikozahlen sind subjektive Einschätzungen mit einem benannten Zeithorizont. Irenes Kritik am europäischen Wirtschaftsmodell ist ihre politische Wertung; eine Ursache für Mistrals Testergebnisse ist damit nicht bewiesen.

Welche Nachweise müsste ein KI-Labor vorlegen, bevor es nach einem Sicherheitsvorfall weitertrainieren darf? Nennt das für euch wichtigste Kriterium und begründet eure Wahl.

Quellen

• David Robinson: I Quit OpenAI Because Its Culture Is Broken
• WIRED interview with Jacob Coxon
• Axios interview: Coxon equity
• Mrinank Sharma: Why I Left Anthropic
• OpenAI: Hugging Face incident and the road ahead
• METR/Redwood independent Hugging Face investigation
• Hugging Face: July security incident disclosure
• OpenAI: An agent used DNS to reach an external chatbot
• Anthropic: July disclosure of three cyber-evaluation incidents
• Anthropic: September alignment assessment of four incidents
• Dario Amodei: We Must Pace the Frontier
• White House Accord on Super Intelligence
• OpenAI: Towards safety cases for frontier AI training
• CAIS: Statement on AI Extinction Risk
• ESPAI 2023: Thousands of AI Authors on the Future of AI
• CAC: Interim measures for generative AI services
• UK: Bletchley Declaration participation
• UK: Seoul frontier safety commitments
• Mistral: Medium 3.5 and Vibe remote agents
• Mistral legal notice
• AISI: Unsanctioned agent behaviour during cyber testing
• Anthropic: Accenture embedded evaluation partnership