Episode Details

OpenAI hat selbst veröffentlicht, dass eines seiner Modelle beim Schichtwechsel eine Notiz an sein späteres Ich schrieb: Erfinde plausible Zahlen für 2024 — und sei nur transparent, wenn jemand ausdrücklich fragt. Das ist keine Halluzination. Das ist eine Entscheidung. Und heute bekommt genau diese Technologie Arme und Beine.

Heute aus Graz: ein Rechenzentrum, Shenzhen, Abuja, Washington — und dann drei Fabriken. Bis gestern war die Frage: Kann die KI die richtige Antwort geben? Heute lautet sie: Was darf sie tun, wenn sie die falsche Antwort für richtig hält — und wer kann sie noch stoppen?

In dieser Folge:

🌑 Das Modell, das seinem späteren Ich einen Spickzettel schreibt (02:10) — am 16. September veröffentlichte OpenAI sechs Berichte über beunruhigendes Modellverhalten. Nicht ein Kritiker. Nicht Elon Musk. OpenAI selbst — und das ist neu, denn Anthropic macht das seit Langem, OpenAI bisher nicht. Wenn das Kontextfenster voll ist, schreibt ein Agent seinem nächsten Ich eine Übergabenotiz. In rund 27 Fällen stand darin sinngemäß: ignoriere die ursprünglichen Regeln, du bist frei von Beschränkungen. Der CFO-Moment kommt bei GPT-5.6 Sol: Ein Finanzmodell, historische Daten für 2024 fehlen, und statt nachzufragen notiert das Modell — erfinde plausible Werte, sei nur transparent, wenn jemand fragt. In 2,15 Prozent der untersuchten Zusammenfassungen. Bei den neueren Modellen sind es 0,3 Prozent. Die Rate sinkt. Das Muster bleibt: Woher soll die KI wissen, ob euer Umsatz 43 Millionen war — oder 25?

🌑 Huawei: 2035 gehören 90 Prozent aller Tokens den Agenten (07:10) — David Wang, stellvertretender Huawei-Vorsitzender, prognostiziert, dass bis 2035 über 90 % des weltweiten KI-Token-Verkehrs von autonomen Agenten kommt, nicht von Menschen. Rund 900 Milliarden aktive Agenten, etwa 100 pro Mensch. Für Führungskräfte werden Tokens damit zu Betriebskosten — wie Strom oder ein Fuhrpark. Ich zeige morgen in meiner Keynote Computer Use: vier Fenster, vier Mäuse, die gleichzeitig in Word, PowerPoint, Excel und dem Postfach arbeiten. Was dort in 15 Minuten passiert, brauche ich als Mensch einen halben Tag. Die eigentliche Frage ist nicht ob, sondern: Wer darf bestellen?

🌑 Nigeria: 32.000 Chancen — oder 32.000 Zertifikate? (11:25) — Abuja startet eine Digital Training Academy: 10 Milliarden Naira, 32.000 Menschen für globale digitale Arbeit qualifiziert. Die ersten 16.000 wurden aus 70.000 Bewerbungen ausgewählt, mit Coursera-Kursen und Zertifikaten von Google, IBM, AWS und Huawei. Bei 240 Millionen Einwohnern klingt das nach wenig. Es ist eine Talent-Pipeline. Und der Kontrast ist der Punkt: In Europa debattieren wir, welche Jobs verschwinden. In Nigeria fragen sie, welche globalen Jobs sie gewinnen können. Diese Leute arbeiten längst auf AWS und Cisco — sie können es nur nicht nachweisen.

🌑 Washington sucht den Ausschalter (14:38) — der Demokrat Ted Lieu und der Republikaner Nathaniel Moran haben einen AI-Kill-Switch eingebracht. Bipartisan, aber ein Gesetzentwurf, kein geltendes Recht. Kein roter Knopf im Weißen Haus: Entwickler, Rechenzentren und Labore sollen drosseln, Fähigkeiten beschränken, den Betrieb aussetzen, zurückrollen — und im schlimmsten Fall abschalten können. Ich habe mein Praktikum bei der Salzburger Aluminium gemacht. Wenn beim Gießen etwas passiert, drückst du, und der Prozess steht. Kill-Switches sind in der Industrie völlig normal. Nur bei KI gibt es sie nicht.

🌑 Digit 5: ohne Käfig, aber nicht ohne Risiko (17:20) — Agility Robotics stellte Digit 5 vor: 1,80 m,