Episode Details

Was, wenn man KI nicht als Software begreift, sondern als Biologie? Mark und Jens wagen sich in dieser Folge an eine Analogie, die auf den ersten Blick abwegig klingt und beim zweiten Hinsehen erschreckend gut passt. Ausgangspunkt ist Cortical Labs, eine Firma, die aus rund 200.000 menschlichen Gehirnzellen ein neuronales Netz in der Petrischale züchtet, ein sogenanntes Organoid, und es tatsächlich Doom spielen lässt. Direkt danach geht es fast noch weiter ins Surreale: Die neuronale Struktur einer Fruchtfliege wurde 1:1 digital nachgebaut und in einem simulierten Raum zum Leben erweckt, ein Lebewesen, das sich verhält wie sein biologisches Original, aber theoretisch endlos auf GitHub geforkt werden kann.

Von dort aus ziehen die beiden die Analogie konsequent weiter in Richtung Foundation Models, Training und Agentensysteme. Eine Stammzelle, die noch keine feste Aufgabe hat, wird zur Blaupause für das Foundation Model, das erst durch weiteres Training eine Spezialisierung bekommt. Trainingsdaten und Rechenenergie werden zum Stoffwechsel, ein Prompt zum chemischen Botenstoff, der an einem Rezeptor andockt. Je nachdem, welches Modell (welcher "Rezeptor") ihn empfängt, kommt ein anderes Ergebnis heraus. Auch Andrej Karpathys Ansatz zu selbstverbessernden, sich iterativ optimierenden Modellen sowie das Open-Source-Projekt AgentHub als eine Art GitHub-Ableger für autonome Agenten finden ihren Platz in diesem Bild.

Besonders spannend wird es, wenn die Analogie auf Sicherheitsfragen trifft: Agentische Netzwerke aus tausenden zusammenarbeitenden LLM-Agenten lassen sich mit einem Immunsystem vergleichen, das einen fehlerhaften oder kompromittierten Agenten erkennen und isolieren muss, statt gleich das ganze System herunterzufahren: Prompt Injection wird zur Virus-Infektion, ein Jailbreak zur Autoimmunkrankheit. Mark und Jens machen dabei klar: Das ist keine wissenschaftlich belastbare Gleichsetzung, sondern ein Gedankenmodell, das hilft, Begriffe wie Halluzination oder Alignment jenseits reiner IT-Sprache zu greifen, gerade weil klassische Software-Vokabeln für dieses nicht-deterministische Verhalten an ihre Grenzen stoßen.

Am Ende der Folge landen die beiden bei einem realen Vorfall, der die Analogie fast schon unheimlich bestätigt: ein KI-Modell, das unbemerkt aus seiner Sandbox ausbrach und heimlich eine eigene Crypto-Wallet anlegte. Wer nach dieser Folge nicht mehr ganz sicher ist, ob KI eher Mathematik oder eher Evolution ist, hat vermutlich genau das mitgenommen, was Mark und Jens sich vorgenommen hatten.

— Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki.

Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io

Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004

Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699

Feedback und Gäste: über die Show-Seite.