Episode Details

Darf ich das? Diesmal holen sich Mark und Jens keinen weiteren Entwickler oder Produktmenschen ans Mikro, sondern Max, Jurist mit Schwerpunkt KI- und Datenrecht. Statt der erwarteten Vorsicht-Vorsicht-Vorsicht-Nummer geht es darum, wie Recht und Compliance tatsächlich mitspielen können, statt nur zu verhindern.

Der Klassiker "es kommt drauf an" wird auseinandergenommen: Halluzinationen, Haftungsfragen und die unbequeme Erkenntnis, dass ein KI-Output mit 70 Prozent Qualität in unkritischen Prozessen völlig ausreichen kann. Perfektion war schließlich auch vorher nicht der Maßstab. Dazu Marks TikTok-Anekdote vom Anwalt mit Füllfederhalter im Vorsicht-Apostel-Modus, ein schönes Beispiel dafür, wie man Menschen mit reiner Angstmache eben nicht abholt.

Größte Plattitüde der Folge: "Datenschutz erlaubt das nicht." Max räumt auf: Datenschutz ist keine heilige Kuh, sondern ein Rechtsgut unter mehreren gleichwertigen, und US-Hosting ist aktuell kein Showstopper mehr, wenn sauber dokumentiert wird. Wichtig fürs Selbstverständnis im AI Act: Wer ein lokales Modell z. B. über n8n betreibt, ist Anwender. Wer ein KI-System als Produkt an den Markt bringt, rutscht in die Anbieter-Rolle, inklusive einer Betriebsanleitung, für die aktuell noch niemand ein fertiges Format hat.

Dass der AI Act selbst schon im Reset-Modus ist, obwohl er noch gar nicht vollständig in Kraft ist, erklärt Max mit dem Brüsseler Kompromiss-Prozess: viele Stakeholder, viele Einzelinteressen, am Ende ein Flickenteppich, der nachjustiert werden muss. Seine Antwort im eigenen Unternehmen: keine Einzelfall-Antworten auf "darf ich das?", sondern Prinzipien und Guardrails, die Sicherheit erzeugen statt Verunsicherung.

Privat wird es dann noch mal konkret: die Haushaltsausnahme im Datenschutzrecht (die DSGVO gilt schlicht nicht im rein privaten Kontext), garniert mit der Frage, was passiert, wenn das Aufnahmegerät oder die KI-Brille versehentlich vom Park mit ins Wohnzimmer wandert (Stichwort Tesla-Wächtermodus). Beruflich nutzt Max Alltags-KI für Recherche sowie Noxtua, ein auf juristischer Datenbasis trainiertes deutsches KI-System.

Am Ende der Blick nach vorn: Wenn Wissen und Fähigkeiten zur Commodity werden, verschwindet die klassische Vertragsprüfung. Was bleibt, sind Erfahrung, Empathie und strategischer Weitblick. Jens' Zuspitzung bringt es auf den Punkt: Der Jurist der Zukunft wird Orchestrierer agentischer Netzwerke, die Rechtsberatung an andere Systeme weitergeben.

— Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki.

Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io

Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004

Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699

Feedback und Gäste: über die Show-Seite.