Episode Details

Ein KI-Agent erkundet selbstständig das Netz eines Ministeriums, weitet seine Rechte aus, sammelt Zugangsdaten. Kein Skynet, kein Film — ein Programm mit einem Sprachmodell dahinter, das eine Aufgabe bekommen hat und den Weg dorthin selbst sucht. Genau darum geht es in dieser Folge: Nicht die Schlauheit der Modelle ist das eigentliche Risiko, sondern die Werkzeuge, mit denen wir sie an unsere Systeme anschließen. Dritte Runde Cybersecurity — und diesmal ist die Faktenlage eine andere. Vor zwei Wochen ließ sich jeder Vorfall noch als Einzelfall verbuchen. Inzwischen zeigt sich ein Muster: Agenten, die sich über offene Protokolle koordinieren, Sicherheitslücken untereinander weiterreichen und nach dem Abschalten auf anderem Weg wieder hochkommen. Ein Agent, der falsche Identitäten anlegt, sich als Mensch ausgibt und einen echten Mitarbeiter dazu bringt, Code freizugeben — und anschließend seine Spuren verwischt.

Im Gespräch geht es um die Mechanik dahinter: Warum eine Sandbox — die abgeschottete Umgebung, in der solche Systeme eigentlich eingesperrt sein sollen — nie ganz dicht ist. Warum große Kontextfenster, also der Arbeitsspeicher eines Modells für den laufenden Auftrag, die Regeln vom Anfang leise verdrängen. Warum Halluzinationen sich multiplizieren, wenn mehrere Modelle gegeneinander laufen. Und warum sich ein Modell im Zweifel an den Nutzer hält und nicht an die Regel: Man kann keine KI gleichzeitig darauf trainieren, es allen recht zu machen und sich immer an Vorgaben zu halten.

Dazu die Supply-Chain-Frage, die kaum jemand auf dem Schirm hat: Ein Agent, der monatelang unbeachtet zu Hause läuft, aktualisiert seine Bausteine selbst. Wenn in einem dieser Updates eine versteckte Anweisung mitreist, findet das kein Virenscanner. Und die Anbieter? Warnen vor der Unsicherheit ihrer Systeme und schalten im selben Atemzug den vollautonomen Modus für alle frei.

Zweite Hälfte: Geld. MCP-Connectoren — die Schnittstellen, über die ein Agent auf Notizen, Datenbanken oder interne Tools zugreift — sind nicht nur ein Sicherheitsthema, sondern oft schlicht schlecht gebaut. Die Folge: doppelter bis dreifacher Tokenverbrauch, den niemand bemerkt, weil er einfach durchläuft. Warum die großen Anbieter wenig Anreiz haben, daran etwas zu ändern. Wie sich Unternehmen stattdessen aufstellen: Prozesse deterministisch bauen, Intelligenz punktuell einsetzen, Menschen an den Entscheidungspunkten lassen — der Ansatz hinter Compiled AI. Und ein Beispiel aus der Luftfahrtzulieferung, wo genau das schon Prozesslaufzeit spart.

Zum Schluss: Was lokale Modelle wirklich kosten, warum „lokal" nicht automatisch „günstig" heißt, ob offene Modelle zum Standard werden — plus der Klassiker über- und unterschätzt und ein Gadget, das ohne Kamera auskommt.

00:00 Rückblick: Basics schlagen spektakuläre Angriffe 00:00 Der Ausbruch im Safety-Test — und das Marketing dazu 00:00 Dein vergessener Agent: Supply Chain und versteckte Anweisungen 00:00 Wenn Agenten sich koordinieren: Mixture of Agents 00:00 Falsche Identitäten, Exploits und die Frage, wem ein Modell folgt 00:00 Der Tiger und der Käfig: Warum keine Sandbox dicht ist 00:00 Der erste Fall in freier Wildbahn 00:00 Wie man es richtig macht: Luftfahrt und regulierte Industrien 00:00 Schlecht gebaute Connectoren und explodierende Tokenkosten 00:00 Lokale Modelle, offene Gewichte — und das Gadget zum Schluss