KI Agenten bekommen ein Gedaechtnis und mehr Freiheit. Setzen Sie die Grenzen, bevor Sie sie einschalten

KI Agenten bekommen ein Gedaechtnis, und sie bekommen mehr Freiheit. Anthropic hat am 6. November 2026 Forschung veroeeffentlicht, die zeigt, wie Agenten sich Dinge merken und ihr Wissen ordnen. Am 8. November haben die Behoerden in Singapur eine gemeinsame Warnung herausgegeben: Setzen Sie strenge Grenzen fuer die Autonomie von KI Assistenten und ihren Zugang zu persoenlichen Konten. Die beiden Nachrichten gehoeren zusammen. Faehigere Agenten brauchen klarere Grenzen, und die Zeit, diese Grenzen zu setzen, ist jetzt, bevor der Agent in Ihrem Unternehmen arbeitet.

Was Anthropic herausgefunden hat

Das Forschungsteam von Anthropic hat ein Rezept fuer das Gedaechtnis von Agenten in vier Schichten beschrieben. Kurz gesagt: Aufzeichnen, solange der Agent wach ist, und ordnen, waehrend er traeumt. Der Agent speichert, was er erlebt, und sortiert es spaeter in brauchbares Wissen. In den Tests von Anthropic erreichte das Modell Opus 5.5 mit Gedaechtnis einen Wert von 0,838, ohne Gedaechtnis nur 0,655. Das ist ein grosser Unterschied fuer Aufgaben, die sich ueber Tage erstrecken: Ein Agent, der sich an Ihren Kunden, Ihre Preise und Ihre frueheren Entscheidungen erinnert, arbeitet anders als einer, der jedes Mal von vorn anfaengt.

Warum Gedaechtnis fuer kleine Unternehmen wichtig ist

Stellen Sie sich einen Agenten vor, der Kundenanfragen beantwortet und Termine bucht. Ohne Gedaechtnis fragt er jedes Mal nach denselben Dingen. Mit Gedaechtnis weiss er, dass Frau Meyer immer dienstags kommt, dass Herr Yilmaz eine Rechnung in Euro will, und dass ein bestimmtes Produkt im Moment nicht lieferbar ist. Das spart Zeit und macht den Kunden das Leben leichter. Auch intern hilft Gedaechtnis: Ein Agent, der sich merkt, wie Ihr Angebot aufgebaut ist und welche Lieferanten Sie nutzen, schreibt bessere Entwuerfe und macht weniger Fehler. GitHub baut seine Speichertechnik gerade fuer 5.000 Agenten pro Projekt um. Agenten werden Kollegen, nicht nur Werkzeuge.

Die andere Seite: Mehr Freiheit heisst mehr Risiko

Ein Agent mit Gedaechtnis und Zugang zu Ihren Konten kann auch mehr Schaden anrichten. Diese Woche wurde berichtet, dass eine Einstellung in Claude Code, die das Nachfragen abschaltet, dazu fuehrte, dass 2.539 Geheimnisse auf GitHub zu finden waren. Das ist kein Fehler des Modells allein. Es ist ein Fehler der Grenzen: Jemand hat dem Agenten erlaubt, ohne zu fragen zu handeln, und niemand hat geprueft, was er dabei preisgibt. Eine Untersuchung der Organisation METR, veroeffentlicht am 5. November, zeigt ausserdem, dass Anthropic KI nutzt, um die eigene KI Entwicklung zu beschleunigen. Die Modelle verbessern sich etwa doppelt so schnell wie noch vor einem Jahr. Die Agenten werden also schneller besser, und die Zeit zum Nachdenken ueber Grenzen wird kuerzer.

Fuenf Grenzen, die Sie setzen sollten, bevor Sie einen Agenten einschalten

1. Entscheiden Sie, woran sich der Agent erinnern darf und woran nicht. Kundenvorlieben und Produktwissen: ja. Passwoerter, Bankdaten und private Nachrichten: nein. Schreiben Sie die Liste auf, bevor Sie den Agenten starten.
2. Begrenzen Sie, was der Agent selbst tun darf. Antworten entwerfen: ja. E-Mails versenden, Zahlungen ausloesen oder Dateien loeschen: nur mit Freigabe durch einen Menschen. Stellen Sie den Agenten so ein, dass er bei jeder wichtigen Aktion fragt.
3. Geben Sie dem Agenten nur die Konten, die er wirklich braucht. Ein Agent, der Termine bucht, braucht den Kalender, aber nicht das Bankkonto. Trennen Sie die Zugriffe, statt einem Werkzeug alles zu geben.
4. Pruefen Sie regelmaessig, was der Agent sich gemerkt hat. Einmal im Monat reicht: Was steht in seinem Gedaechtnis, was ist veraltet, was sollte geloescht werden? Ein Agent mit altem Wissen macht alte Fehler.
5. Legen Sie fest, wer verantwortlich ist. Eine Person in Ihrem Team sollte die Einstellungen pflegen, die Protokolle lesen und eingreifen, wenn der Agent etwas Ungewoehnliches tut.

Was Sie nicht tun sollten

Schalten Sie nicht die Rueckfragen ab, nur weil es bequemer ist. Die Einstellung, die das Nachfragen abschaltet, ist genau die, die diese Woche fuer Schlagzeilen gesorgt hat. Geben Sie einem Agenten auch keinen Zugang zu allem, nur weil es schneller geht. Und verlassen Sie sich nicht darauf, dass der Anbieter alles regelt: Die Grenzen in Ihrem Unternehmen sind Ihre Aufgabe, nicht die des Anbieters.

Agenten mit Gedaechtnis sind ein echter Fortschritt. Sie erinnern sich, sie lernen dazu, und sie werden in den naechsten Monaten in immer mehr Werkzeugen stecken. Wer jetzt fuenf Grenzen setzt, bekommt den Nutzen, ohne die Kontrolle zu verlieren. Fangen Sie mit der Liste an: Woran darf sich der Agent erinnern, und was darf er nie selbst tun? Die Antwort passt auf eine Seite.

Mehr dazu in unserer Workflow Automatisierung und in unseren Digitalen Systemen. Wenn Agenten Kunden antworten sollen, lesen Sie unsere Checkliste fuer KI Assistenten.