Episode Details

Send us Fan Mail

Karl von Wendt – promovierter KI-Forscher, Chatbot-Pionier, Unternehmensberater und unter dem Namen Karl Olsberg Bestseller-Autor ist seit 2020 eine der deutschsprachigen Stimmen in der Debatte um KI-Sicherheit. In dieser Folge sprechen Sigurd Schacht und Carsten Lanquillon mit ihm über die Frage, wie viel Kontrolle wir über KI-Systeme tatsächlich noch haben – und wie viel davon Illusion ist.

Themen der Folge:

• Vom KI-Roman 2007 zur Realität 2026: Warum Karls Science-Fiction der Wirklichkeit unangenehm nahe kommt
• Die Navi-Geschichte: Wie schnell wir formal entscheiden, aber de facto der Maschine folgen
• Human in the Loop: Warum das Konzept nur unter drei Bedingungen funktioniert (ausreichende Information, echtes Verständnis, interaktive statt reiner Freigabe-Entscheidung)
• Illusion des Verständnisses: Das Go-Beispiel und warum wir glauben, am Steuer zu sitzen
• „Move fast and break things“ vs. Sicherheitskultur: Was die KI-Branche von anderen Hochrisiko-Industrien lernen müsste
• Pause oder Vollbremse? Wie sich ein Entwicklungsstopp überhaupt kontrollieren ließe
• Rekursive Selbstverbesserung: Warum Systeme, die wir nicht verstehen, sich nicht selbst verbessern sollten
• Alignment, Fähigkeiten, Umgebung: Welche Stellschrauben bleiben, wenn Alignment nie ganz gelöst wird
• Warum Containment allein nicht reicht: Das AI-Box-Experiment von Yudkowsky
• Tool AI statt Alleskönner: AlphaFold als Vorbild für spezialisierte KI
• Persona statt KI: Warum wir mit einem fragilen Konstrukt reden – und was Jailbreaks und emergente Fehlausrichtung darüber verraten
• Sykophantie, Abhängigkeit und verlerntes kritisches Denken bei Jugendlichen
• Prüfen wir die Kompetenz der KI oder der Studierenden? Ein Evaluationsproblem der Hochschulen
• Science-Fiction vs. Wissenschaftskommunikation: Was Forschende von Autoren lernen können (und was nicht)

Über unseren Gast:
Dr. Karl von Wendt promovierte über Expertensysteme, gründete 1999 eines der ersten deutschen Chatbot-Startups (Startup des Jahres) und arbeitete lange als Unternehmensberater. Als Karl Olsberg veröffentlichte er über 50 Bücher, darunter Spiegel-Bestseller, Minecraft-Romane und KI-Thriller wie „Das System“. Seit 2020 erklärt er die KI-Sicherheitsdebatte auf ki-risiken.de und auf seinem YouTube-Kanal mit über 20.000 Abonnenten.

Links:

• „Kontrollillusionen“ (2025, kostenlos unter freier Lizenz) https://www.ki-risiken.de/kontroll-illusion/
• YouTube-Kanal Karl Olsberg https://www.youtube.com/@KarlOlsbergAutor

Knowledge Science – aktuelle KI-Forschung, verständlich erklärt und kritisch geprüft. Mit Blick auf den Menschen.

Support the show