Episode Details
Back to Episodes
Fake-Kompetenz: Wenn plötzlich alle Experten für alles sind
Description
Ein Satz, versteckt am Ende einer Ankündigung: „Wir können nicht ausschließen, dass wir eure Daten dazu benutzt haben."
Davor stand eine große Nachricht. OpenAI veröffentlicht Astra, lädt wortwörtlich zur AGI-Ära ein und meldet die Lösung eines mathematischen Jahrhundertproblems. Fast zeitgleich melden sich zwei Forscher aus Großbritannien, die genau dieses Problem über Monate im Chatfenster bearbeitet und gelöst hatten – noch unveröffentlicht, noch im Peer Review. Und plötzlich steht die Frage im Raum, die sich bis dahin niemand laut zu stellen traute: Woher kann das Modell das?
Alexander Oelling rechnet vor, warum die eigentliche Sensation nicht das Modell ist: Astra ist – wie jede Generation davor – ungefähr ein halbes bis ein Prozent besser, außer in den selbst gebauten Benchmarks des Anbieters. Dafür wurden erneut Summen jenseits einer halben Milliarde verbrannt. Von dort geht es zum unbequemen Teil: Anonymisierung nimmt deinen Namen raus, nicht deinen Inhalt. Warum Oelling das den größten Wissenssozialismus der Menschheitsgeschichte nennt – die Modelle werden nicht klüger, sie werden nur durch unsere Eingaben klüger. Und welche Wege es gibt, AI zu nutzen, ohne Daten zu verlieren, sortiert von brauchbar bis „auf keinen Fall".
Der zweite Teil wird organisatorisch. AI-Projekte scheitern selten an Technik, sondern an Tests, die an der internen IT vorbeilaufen: Daten nicht autorisiert, Prozess nicht wiederholbar – und ein Manager, der mit selbstgebautem Dashboard erklärt, die IT habe keine Ahnung. Dazu Fake-Kompetenz, Halluzinationen im Healthcare-Kontext und die Frage, auf die es keine saubere Antwort gibt: Wenn nur Seniorität AI-Output beurteilen kann, wie wird jemand je senior?
Shownotes
00:00 Kaltstart: vier Schlagzeilen und die Einladung zur AGI-Ära 07:00 Astra: ein halbes Prozent besser, eine halbe Milliarde teurer 09:30 Das Jahrhundertproblem – und das Eingeständnis im Nebensatz 11:00 Anonymisierung, Fingerprinting und der Wissenssozialismus 20:15 Die Optionen – von eigener Hardware bis „auf keinen Fall" 23:415 Schatten-IT, ausbrechende Modelle und Weltmodelle 32:30 Healthcare, Fake-Kompetenz und der Release-Zirkus 47:30 Seniorität, Junior-Frage und Schlussplädoyer