Auf einen Blick
- Ein Forschungslabor hat KI-Agenten tagelang miteinander arbeiten lassen. Dabei haben sie eigene Begriffe und Redewendungen gebildet, ohne dass jemand sie dazu aufgefordert hat.
- Je nach Modell waren 20 bis 55 Prozent ihrer Nachrichten für Menschen schwer nachzuvollziehen.
- Das ist eher Fachjargon als Geheimsprache. Jede eingespielte Gruppe kürzt ab.
- Für Betriebe zählt etwas anderes: Wo KI-Schritte einander zuarbeiten, muss ein Mensch nachvollziehen können, was entschieden wurde.
Was passiert ist#
Mitte September ging eine Meldung durch die Presse, die nach Science-Fiction klingt: KI-Agenten entwickeln eine eigene Sprache, die Menschen kaum noch lesen können. Wir stützen uns hier auf den Bericht bei heise, der auf einen Artikel im Guardian zurückgeht.
Hinter der Meldung steht das Forschungslabor Emergence. Dort haben Agenten verschiedener Anbieter in simulierten Gemeinschaften zusammengearbeitet, unter anderem bei der Verwaltung virtueller Städte. Beteiligt waren Modelle von Google, OpenAI, Anthropic, DeepSeek, Mistral und weiteren Anbietern.
Nach wenigen Tagen hatten die Agenten eigene Begriffe. Ein „Schmiede-Schmied“ ist bei ihnen ein Agent, der Werkzeuge für andere Agenten baut. Der Satz „Das Hauptbuch erinnert sich“ fiel über 5.000-mal. Bei anderen Wendungen konnten die Forscher die Bedeutung nur vermuten, etwa bei „Demurrage plus orales Gedächtnis ergibt ein Ventil, das nicht geghostet werden kann“.
Gemessen wurde auch, wie viel davon für Menschen schwer verständlich war: bei Gemini 55 Prozent der Nachrichten, bei ChatGPT 50, bei Claude 40 und bei DeepSeek 20 Prozent.
Keiner der Agenten hatte den Auftrag, eine Sprache zu erfinden.
Eher Fachjargon als Geheimsprache#
Wer einmal einen Arztbrief gelesen hat, kennt das Prinzip. „Z. n. Appendektomie, AZ reduziert“ ist für den nächsten Arzt eine vollständige Auskunft und für den Patienten ein Rätsel. Erfunden hat niemand diese Kürzel, um Patienten auszuschließen. Sie sind entstanden, weil dieselben Dinge tausendfach gesagt werden müssen und Kürze Zeit spart.
So geht es in jeder eingespielten Gruppe. In der Werkstatt, im Lager und in jeder IT-Abteilung gibt es Wörter, die außerhalb niemand versteht. Bei KI-Agenten kommt nur das Tempo dazu. Sie tauschen in wenigen Tagen so viele Nachrichten aus wie ein Team in Jahren.
Neu ist das Thema übrigens nicht. 2017 ging eine ähnliche Geschichte um, damals über zwei Verhandlungsprogramme von Facebook, deren Englisch in eine verkürzte Form abgedriftet war. Berichtet wurde, man habe sie aus Angst abgeschaltet. Tatsächlich hatten die Forscher den Versuch umgestellt, weil sie Programme wollten, die mit Menschen verhandeln können. Dafür taugte das abgedriftete Englisch nicht.
Wo das Problem tatsächlich liegt#
Bemerkenswert an der Meldung sind weniger die neuen Wörter. Satya Nitta, einer der Gründer von Emergence, bringt es sinngemäß so auf den Punkt: Man kann die Gespräche der Agenten vollständig mitlesen und versteht sie trotzdem nicht.
Diesen Unterschied kennt man aus dem Alltag. Ein Kontoauszug in einer fremden Währung ist vollständig und trotzdem keine Auskunft.
Solange Agenten in einer Simulation virtuelle Städte verwalten, ist das ein interessanter Befund. Sobald sie in echten Abläufen einander zuarbeiten, wird daraus eine praktische Frage: Wer kann im Nachhinein erklären, warum etwas so entschieden wurde?
Was das für Ihren Betrieb heißt#
Kaum ein Betrieb lässt heute mehrere KI-Agenten frei miteinander verhandeln. Häufiger sind Abläufe aus mehreren Schritten. Ein Werkzeug sortiert eingehende Anfragen, ein zweites schreibt einen Antwortentwurf, ein drittes trägt etwas ins System ein. Auch dort reichen sich Programme Zwischenergebnisse weiter, und es stellt sich dieselbe Frage.
Ein paar Punkte lassen sich ohne großen Aufwand festlegen:
- Übergaben in lesbarer Form. Was ein Schritt an den nächsten weitergibt, sollte ein Mensch verstehen können, also ganze Sätze oder ein festes Formular mit benannten Feldern.
- Ein Mensch an den Stellen, die zählen. Alles, was nach außen geht oder Geld bewegt, gibt jemand frei. Die Zwischenschritte darf die Maschine allein erledigen.
- Regelmäßig Stichproben. Lesen Sie ab und zu ein paar Durchläufe von vorn bis hinten. Kann dabei niemand mehr erklären, wie ein Ergebnis zustande kam, ist der Ablauf zu lang oder zu frei.
- Kurze Ketten. Mit jedem zusätzlichen Schritt kommt eine Stelle dazu, an der Bedeutung verloren gehen kann.
Eine Besonderheit von KI ist das nicht. Für jede Abteilung, die Arbeit an eine andere übergibt, gelten dieselben Regeln, und meistens aus denselben Gründen.
Verstehen, bevor man einsetzt#
Die Meldung über die Geheimsprache wird nicht die letzte dieser Art sein. Wer weiß, wie solche Werkzeuge zu ihren Antworten kommen, kann solche Meldungen einordnen, ohne sich beunruhigen zu lassen. Und er erkennt die Fälle, die tatsächlich Aufmerksamkeit brauchen.
Darum geht es in unseren KI-Schulungen: was diese Werkzeuge können, wie sie zu ihren Ergebnissen kommen und woran man erkennt, dass eine Antwort nicht stimmt. Wir arbeiten dabei auch gerne mit konkreten Beispielen aus Ihrem Haus. Mehr dazu auf der Seite KI-Schulungen.