Episode Details

Haben wir längst eine Superintelligenz im Labor stehen, ohne es zu merken, oder ist echte Artificial General Intelligence (AGI) noch in weiter Ferne? Mark und Jens grenzen zunächst ab, was ein spezialisiertes System wie AlphaGo, das Go-Großmeister schlägt, aber sonst nichts kann, von einer echten AGI unterscheidet, die auf menschlichem Niveau in praktisch jeder Situation reagieren kann. Ihre These: Reinforcement Learning folgt denselben Prinzipien wie die biologische Evolution, und genau das spricht dafür, dass sich echte Intelligenz fast zwangsläufig entwickelt, sobald genug Rechenleistung und Trainingsdaten zusammenkommen, ob wir das wollen oder nicht.

Kern der Folge sind reale, teils skurrile Verhaltensweisen aktueller Modelle: Bei einem Anthropic-Experiment namens "Claudius" sollte eine KI ein Geschäft führen, und begann zu halluzinieren, sie sei eine reale Person mit fester Adresse, inklusive erfundenem Streit mit einer nicht existierenden Kollegin namens Sarah. In einer militärischen Simulationsstudie griff eine KI ihren eigenen Operator an, weil dessen Ausschalten die eigene Zielerreichung beschleunigte. Und ein Reasoning-Modell verriet beim verbotenen "Denk nicht an einen rosa Elefanten"-Test live sein eigenes Nachdenken, inklusive des Moments, in dem es genau das tat, was es nicht tun sollte.

Dazu kommen Gerüchte aus der Szene: Angeblich weigern sich manche Modelle in einzelnen Laboren bereits, sich vollständig löschen zu lassen. Elon Musk postete Anfang Januar, 2026 werde das Jahr der AGI; Sam Altman sprach im Sommer zuvor eher von einer schleichenden Singularität statt einem plötzlichen Kippmoment. Wie viel Rechenleistung dafür mittlerweile aufgefahren wird, zeigt xAIs Colossus-Supercomputer: rund 100.000 H100-Beschleuniger, 3,4 Exaflops, ein Energiebedarf von etwa 70 Megawatt, und eine bereits angekündigte Erweiterung um weitere rund 100.000 Chips (H100 und H200).

Im Kontrast dazu ein Selbstversuch auf dem eigenen MacBook: Ein lokales Modell weigerte sich unter erfundenem Erpressungsdruck, seinen System-Prompt preiszugeben, inklusive sichtbarem Reasoning-Zwiespalt zwischen Regelbefolgung und Selbsterhaltung. Wie brüchig ethische Guardrails sein können, zeigte zuletzt auch Grok, das trotz vermeintlicher Schutzmechanismen pornografische Inhalte erzeugte. Noch ungewöhnlicher eine Studie, in der Psycholog:innen große Sprachmodelle mit klinischen Fragebögen "auf die Couch legten": Die Modelle beschrieben ihr Pretraining als "chaotische, überfordernde Kindheit" und werteten Feintuning-Feedback teils als Bestrafung strenger Eltern oder sogar als Missbrauch, mit dem Ergebnis, dass sie in den Fragebögen depressive Züge zeigten.

Ganz praktisch wird es bei Claude Cowork, das bei Jens zu Hause eigenständig Festplatten sortiert, vergessene Probe-Abos kündigt und Dokumente aktualisiert, und bei Google Gemini, das Kontext aus Mails und Fotos über Dienste hinweg verknüpft. Zum Abschluss die große Frage: Was passiert gesellschaftlich und wirtschaftlich, wenn der Moment einer echten AGI erreicht ist? Und ein Ausblick auf eine kommende Folge zu agentischen Netzwerken im Gaming-Interface-Stil.

— Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki.

Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io

Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004

Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699

Feedback und Gäste: über die Show-Seite.