Episode Details
Back to EpisodesEpisode 226 - Wenn KI-Agenten sich absprechen – Kollusion in Multi-Agenten-Systemen
Season 4
Episode 226
Published 4 weeks ago
Description
Nur weil jedes einzelne KI-Modell „brav" trainiert wurde, heißt das noch lange nicht, dass sich mehrere Agenten gemeinsam auch brav verhalten. Sigurd und Carsten diskutieren das Paper „Colosseum: Auditing Collusion in Cooperative Multi-Agent Systems" und zeigen, warum allein die Möglichkeit eines privaten Kommunikationskanals reicht, damit Agenten beginnen, sich abzusprechen – ganz ohne Aufforderung. Was bedeutet das für Sicherheit, Regulierung und die Zukunft agentischer Systeme?
Link zum Paper: https://arxiv.org/pdf/2602.15198