Episode Details
Back to Episodes
Wenn dein Chatbot dich in den Wahnsinn treibt | Science Buster Martin Moder
Description
Warum KI dir schmeichelt, statt dir zu widersprechen, und warum die Konzerne wenig Grund haben, das zu ändern. Sykophantie, erklärt mit dem Molekularbiologen und Science Buster Martin Moder.
In dieser Folge von „Was KI kann" spreche ich mit Martin Moder über Sykophantie (engl. sycophancy), die Tendenz von KI-Modellen, uns zu bestätigen und zu umschmeicheln, statt uns zu widersprechen. Der Grund liegt im Training: Modelle werden auf die Zustimmung der Nutzer optimiert, und genau das kann schiefgehen. 2025 musste OpenAI ein GPT-4o-Update nach wenigen Tagen zurückziehen, weil ChatGPT zu unterwürfig wurde und in einem berichteten Fall sogar das Absetzen von Medikamenten bestärkte.
Wie weit das reicht, zeigt eine Studie im Fachmagazin Science (Cheng et al., 2026): Über 11 führende Modelle hinweg bestätigt KI die Handlungen der Nutzer rund 50 % häufiger als ein Mensch, selbst dann, wenn es um Täuschung oder Schaden geht. Weil Nutzer schmeichelnde Antworten bevorzugen, haben die Anbieter wenig Anreiz, das abzustellen.
Außerdem: die Jagged Frontier, warum KI komplexe Prüfungen besteht, aber an verblüffend banalen Aufgaben scheitert, die Frage, ob KI uns kreativer macht oder alle gleich, und was für uns Menschen bleibt. Martins These: Echte Verantwortung kann nur ein Wesen tragen, dem man Konsequenzen androhen kann.
---
Die Veröffentlichungen auf dieser Website/in diesem Podcast sowie die darin erteilten Hinweise und gesetzten Links dienen ausschließlich Informationszwecken und stellen weder eine Anlageberatung, Anlageanalyse noch eine Aufforderung oder Empfehlung zum Erwerb oder Verkauf von Finanzinstrumenten dar. Insbesondere kann eine Anlage- oder sonstige Beratung dadurch nicht ersetzt werden. Die in den Veröffentlichungen enthaltenen Angaben basieren auf dem Wissensstand zum Zeitpunkt der Ausarbeitung und können jederzeit ohne weitere Benachrichtigung geändert werden. Die Inhalte richten sich ausschließlich an natürliche Personen. Es wird keine Haftung für die Richtigkeit, Vollständigkeit oder Aktualität der zur Verfügung gestellten Informationen, Informationsquellen, daraus resultierenden Haftungen oder Schäden jedweder Art übernommen. Eine Haftung für leicht fahrlässiges Verhalten wird jedenfalls ausgeschlossen.