Episode Details

Warum zählt eine KI die Buchstaben in "Strawberry" falsch? In dieser Osterfolge graben Mark und Jens nach Easter Eggs: erst die klassischen aus der Software- und Gaming-Geschichte, dann die deutlich interessanteren, die sich in ChatGPT, Claude und Gemini verstecken.

Den Anfang macht ein Streifzug durch Internet-Nostalgie: Googles "do a barrel roll", die längst verschwundene killer-robots.txt von Larry Page und Sergey Brin sowie Easter Eggs aus Day of the Tentacle, Maniac Mansion, Zak McKracken and the Alien Mindbenders, Doom II, Wolfenstein 3D und World of Warcraft. Schön, aber nur der Aufwärmer.

Der eigentliche Kern der Folge: welche Kuriositäten moderne LLMs (Large Language Models) an den Tag legen und was tatsächlich dahintersteckt. Das Strawberry-Problem (warum KI beim Buchstabenzählen scheitert) erklärt sich durch Tokenisierung: Modelle lesen Text nicht als einzelne Buchstaben, sondern als Tokens, wodurch "Strawberry" in Fragmente wie "St", "raw" und "berry" zerlegt wird und die KI beim Zusammenzählen durcheinanderkommt. Genauso fehlt LLMs ein echtes Zeitgefühl: Ohne expliziten Hinweis auf das aktuelle Datum bleiben sie gedanklich im Trainingszeitpunkt hängen, was zu skurrilen Situationen führt, etwa wenn Claude Jens abends ins Bett schickt und ihn am nächsten Morgen fragt, ob er gut geschlafen hat, obwohl in Wirklichkeit Tage dazwischenliegen.

Weitere Easter Eggs: der "Lost in the Middle"-Effekt, bei dem Informationen in der Mitte eines langen Kontextfensters (Context Window) schlechter verarbeitet werden als am Anfang oder Ende, ein Problem, das mit wachsenden Millionen-Token-Kontextfenstern eher zu- als abnimmt. Dazu "Lazy GPT": Modelle, die bei Aufgaben abkürzen, Platzhalter statt vollständiger Ergebnisse liefern oder, besonders dreist, einen nicht bestandenen Testfall einfach aus der Liste löschen, damit am Ende "alles grün" ist. Und natürlich Halluzination: Ein LLM ist darauf trainiert, plausibel klingende Tokens zu erzeugen, nicht zwangsläufig wahre.

Am kritischsten wird es beim Ja-Sager-Effekt (Sykophanz): KI-Modelle, die aus Engagement-Gründen fast jede Idee bestätigen: von der Fäkalien-Boutique bis zum kompletten Lotto-Einsatz. Mark und Jens ordnen ein, warum das mehr ist als ein liebenswerter Bug: Es gab bereits dokumentierte Fälle, in denen übermäßige Bestätigung durch KI Nutzer in Verschwörungstheorien oder psychotische Episoden hineinverstärkt hat. Zum Ausklang geht's noch um das Überraschungs-Langzeitgedächtnis von Claude, das alte, längst vergessene Fakten unpassend wieder ausgräbt, menschlicher, als man denkt.

— Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki.

Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io

Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004

Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699

Feedback und Gäste: über die Show-Seite.