Mein AI-Agenten-Speicher: Lösung von Aufblähung & Langsamkeit

Hallo zusammen, Alex hier, zurück auf agntai.net. Es ist der 23. März 2026, und ich habe in letzter Zeit mit einem speziellen Problem gekämpft, von dem ich denke, dass viele von euch, die AI-Agenten entwickeln, wahrscheinlich betroffen sind: Wie verhindert man, dass das Langzeitgedächtnis des Agenten zu einem aufgeblähten, langsamen und letztendlich nutzlosen Durcheinander wird?

Wir waren alle schon einmal in dieser Situation. Man beginnt mit einer geniale Idee für einen Agenten, der sich Benutzerpräferenzen, vergangene Interaktionen oder sogar seine eigenen internen Entdeckungen merken muss. Man richtet eine Vektordatenbank ein, wirft eine Menge Embeddings hinein, und für eine Weile ist es magisch. Der Agent fühlt sich intelligent an, ist kontextbewusst, und man klopft sich selbst auf die Schulter. Dann fangen die Dinge langsam, aber sicher an, schiefzugehen. Die Abrufzeiten steigen. Der Agent wird verwirrt und zieht irrelevante Informationen mit heran, weil sein Gedächtnis einfach zu umfangreich und unstrukturiert ist. Es ist, als würde man versuchen, einen bestimmten Satz in einem Millionen-Seiten-Buch ohne Inhaltsverzeichnis zu finden. Kürzlich habe ich bei einem persönlichen Projekt, einem Agenten, der mir hilft, meine freiberuflichen Schreibaufträge zu verwalten, hart gegen diese Wand geknallt. Nach etwa zwei Monaten täglicher Nutzung war sein „Gedächtnis“ nur noch ein Morast aus halb-fertigen Artikelideen, Kundenanmerkungen und Forschungsausschnitten. Es zog alles und nichts. Die anfängliche Begeisterung hatte definitiv nachgelassen.

Heute möchte ich darüber sprechen, wie wir unseren Agenten intelligenter machen können in dem, was sie sich merken, und wichtiger, wie sie es abrufen. Es geht nicht darum, mehr Rechenleistung für das Problem aufzubringen; es geht um bessere Organisation und ein bisschen metakognitive Ebene auf Agenten-Niveau. Konkret konzentriere ich mich auf eine Technik, die ich „Hierarchische Gedächtnisfilterung“ nenne – im Wesentlichen geben wir unseren Agenten eine strukturierte Möglichkeit, zu entscheiden, was sie sich merken, was sie vergessen und wie sie die wichtigen Dinge kategorisieren können, um schneller und genauer abrufen zu können.

Das Problem mit flachem, endlosem Gedächtnis

Die meisten grundlegenden Implementierungen von Agentengedächtnis, meine eingeschlossen viel zu lange, sind ziemlich einfach:

• Neue Informationen kommen rein (Benutzeranfrage, Agentenbeobachtung, internes Gedanke).
• Informationen einbetten.
• Das Embedding und den ursprünglichen Text in einer Vektordatenbank speichern.
• Wenn Kontext benötigt wird, die Datenbank mit einem neuen Embedding abfragen.
• Top-k ähnliche Elemente abrufen.

Das funktioniert eine Zeit lang ganz gut. Aber wenn das Gedächtnis wächst, tauchen mehrere Probleme auf:

• Semantische Überlappung: Viele Informationen könnten „semantisch ähnlich“ sein, aber nur wenige sind tatsächlich relevant für die *aktuelle* Aufgabe. Zum Beispiel würde mein Schreibagent alle meine bisherigen Artikel über AI-Agenten abrufen, wenn ich nur den über die Agentenarchitektur benötige.
• Abrufgeschwindigkeit: Wenn die Datenbank wächst, kann sogar die Vektorähnlichkeitssuche langsamer werden, insbesondere wenn man komplexe Filterungen durchführen oder neu bewerten muss.
• Kontextuelle Störungen: Der Agent ist mit zu vielen Informationen überfordert, die zu weniger fokussierten Antworten oder Aktionen führen. Es ist, als hätte man einen hilfsbereiten Assistenten, der einem einfach jedes potenziell verwandte Dokument auf den Tisch wirft.
• Vergessen ist schwer: Wie schneidet man alte, irrelevante Informationen zurück, ohne etwas Wichtiges zu verlieren? Manuelles Schneiden ist nicht skalierbar.

Mein Schreibagent begann, Artikelüberschriften basierend auf alten, aufgegebenen Ideen zu halluciniere, weil die Vektorsuche Fragmente von unausgereiften Konzepten abzog. Es war ein Chaos.

Einführung der Hierarchischen Gedächtnisfilterung (HMF)

HMF ist kein bemerkenswerter neuer Algorithmus; es ist eine strategische Kombination bestehender Techniken, angewendet aus einer agentenorientierten Perspektive. Die Kernidee ist, über einen einzelnen, flachen Gedächtnisspeicher hinauszugehen und Schichten der Abstraktion und Filterung einzuführen, die von den Zielen und dem aktuellen Zustand des Agenten geleitet werden. Man kann sich das vorstellen, als gäbe man seinem Agenten einen Aktenschrank mit verschiedenen Schubladen, Ordnern in diesen Schubladen und einem aktiven Arbeitsbereich.

Schicht 1: Ephemeres Arbeitsgedächtnis (Kurzzeit)

Dies ist dein standardmäßiger Gesprächspuffer, der unmittelbare Kontext. Es ist kurzlebig und direkt mit der laufenden Interaktion verbunden. Mein Agent verwendet dies für die letzten 5-10 Gesprächsrunden. Es ist schnell, direkt zugänglich und greift nicht auf den Langzeitspeicher zu, es sei denn, es wird explizit angewiesen.

Implementierung: Eine einfache `deque` oder Liste von Nachrichtenobjekten. Ganz einfach.

Schicht 2: Kategorisiertes Langzeitgedächtnis (Mittelfrist)

Hier beginnt die Magie. Anstatt eine riesige Vektordatenbank zu haben, unterteilen wir unser Langzeitgedächtnis in Kategorien. Diese Kategorien sind nicht willkürlich; sie leiten sich aus den erwarteten Aufgaben oder Domänen des Agenten ab. Für meinen Schreibagenten umfassen die Kategorien „Kundenprojekte“, „Artikelideen (aktiv)“, „Artikelideen (archiviert)“, „Forschungsnotizen“ und „Persönliche Vorlieben“.

Wenn neue Informationen hereinkommen, entscheidet der Agent zunächst, zu welcher Kategorie sie gehören. Diese Entscheidung kann entweder durch einen kleinen LLM-Aufruf oder durch eine Reihe von Regeln getroffen werden. Wenn ein Benutzer beispielsweise sagt: „Starte einen neuen Artikel über föderiertes Lernen“, würde die interne Funktion „Gedächtnismanager“ des Agenten dies als „Artikelideen (aktiv)“ klassifizieren.

Jede Kategorie hat dann ihren eigenen, kleineren Vektorstore (oder sogar einen separaten Index innerhalb eines größeren Vektorstores wie Pinecone oder Weaviate). Dies reduziert den Suchraum erheblich, wenn der Agent Informationen in einer bestimmten Kategorie abrufen muss.

Beispielimplementierung: Kategorisierungsaufforderung

Hier ist ein vereinfachtes Python-Beispiel, das einen LLM verwendet, um eine eingehende Nachricht zu kategorisieren:

from openai import OpenAI

client = OpenAI()

def categorize_message(message: str, categories: list[str]) -> str:
 prompt = f"""Du bist ein intelligenter Assistent, der damit beauftragt ist, Benutzeranfragen zu kategorisieren.
 Weisen Sie die folgende Nachricht einer der bereitgestellten Kategorien zu.
 Geben Sie NUR den Kategorienamen zurück.

 Kategorien: {", ".join(categories)}

 Nachricht: "{message}"

 Kategorie:"""
 
 response = client.chat.com_messages.create(
 model="gpt-4o", # Oder welches Modell Sie auch bevorzugen
 messages=[{"role": "user", "content": prompt}],
 max_tokens=50,
 temperature=0.0
 )
 return response.choices[0].message.content.strip()

# Beispiel für die Nutzung meines Schreibagenten
my_categories = [
 "Kundenprojekte",
 "Artikelideen (aktiv)",
 "Artikelideen (archiviert)",
 "Forschungsnotizen",
 "Persönliche Vorlieben",
 "Allgemeine Gespräche",
 "Aufgabenverwaltung"
]

new_message = "Denk daran, dass ich es bevorzuge, dienstags und donnerstags Artikel zu schreiben."
category = categorize_message(new_message, my_categories)
print(f"Nachricht kategorisiert als: {category}") # Ausgabe: Persönliche Vorlieben

new_message_2 = "Lass uns mit dem Entwurf des Outlines für den Artikel 'AI Agent Gedächtnis' beginnen."
category_2 = categorize_message(new_message_2, my_categories)
print(f"Nachricht kategorisiert als: {category_2}") # Ausgabe: Artikelideen (aktiv)

Nachdem die Nachricht kategorisiert wurde, werden die Nachricht und ihr Embedding im Gedächtnisspeicher der jeweiligen Kategorie abgelegt. Das ist ein großer Gewinn: Wenn der Agent „persönliche Vorlieben“ abrufen muss, fragt er nur diesen spezifischen, viel kleineren Teil seines Gedächtnisses ab.

Schicht 3: Zusammengefasstes & Konsolidiertes Gedächtnis (Langzeitarchiv)

Dies ist die „Weisheit“ -Schicht. Im Laufe der Zeit können selbst kategorisierte Gedächtnisse groß werden. Meine Kategorie „Artikelideen (aktiv)“ könnte beispielsweise Dutzende detaillierter Gliederungen, Forschungslinien und Brainstorming-Sitzungen für einen einzelnen Artikel ansammeln. Der Agent muss nicht *jedes einzelne Detail* jedes Mal abrufen. Was er oft braucht, ist eine Zusammenfassung oder ein grobes Verständnis.

Diese Schicht beinhaltet eine periodische Konsolidierung. Der Agent (oder ein Hintergrundprozess) identifiziert Cluster verwandter Erinnerungen innerhalb einer Kategorie und erstellt eine prägnante Zusammenfassung. Diese Zusammenfassungen werden dann in einem separaten, noch höheren Gedächtnisspeicher abgelegt, möglicherweise mit Verknüpfungen zurück zu den detaillierten Erinnerungen.

Beispielverwendungsfall: Zusammenfassen des Projektfortschritts

Angenommen, mein Agent arbeitet eine Woche lang an einem Kundenprojekt. Die Kategorie „Kundenprojekte“ für „Acme Corp Blogbeitrag“ hat 50-100 einzelne Erinnerungseinträge (Besprechungsnotizen, Forschungsausschnitte, Entwurfspassagen, Feedback) angesammelt. Anstatt all diese abzurufen, kann der Agent periodisch eine Zusammenfassung erstellen:

def zusammenfassen_erinnerungen(erinnerungen: list[str], kontext: str) -> str:
 # 'erinnerungen' wäre eine Liste von relevanten Textsnippet, die aus einer Kategorie abgerufen wurden
 # 'kontext' könnte etwas sein wie "Fasse die Fortschritte beim Acme Corp Blogbeitrag zusammen."
 
 aufforderung = f"""Du bist ein intelligenter Assistent. Überprüfe die folgenden Informationen
 und gib eine prägnante Zusammenfassung, die zum angegebenen Kontext passt.
 
 Kontext: {kontext}
 
 Informationen:
 {'\n'.join([f"- {m}" for m in erinnerungen])}
 
 Zusammenfassung:"""
 
 antwort = client.chat_com_messages.create(
 model="gpt-4o",
 messages=[{"role": "user", "content": aufforderung}],
 max_tokens=500,
 temperature=0.2
 )
 return antwort.choices[0].message.content.strip()

# Stelle dir vor, 'abgerufene_kunden_erinnerungen' enthält viele detaillierte Einträge
# aus der Kategorie "Kundenprojekte" für Acme Corp.
# (Dies würde eine Vektorsuche innerhalb dieser spezifischen Kategorie beinhalten)

# Zur Veranschaulichung, lass uns einige Erinnerungen faken:
abgerufene_kunden_erinnerungen = [
 "Meeting am 2026-03-18: Thema des Blogbeitrags 'Zukunft der KI im Marketing' besprochen.",
 "Forschungsnotiz: 3 relevante Fallstudien zum ROI von KI-Marketing gefunden.",
 "Einleitung verfasst, am 2026-03-20 zur ersten Rückmeldung an den Kunden gesendet.",
 "Kundenfeedback erhalten: 'Einleitung sieht gut aus, konzentriere dich mehr auf praktische Beispiele.'",
 "Abschnitt über 'Personalisierte Kundenreisen mit KI' gestartet.",
 "TODO: Neuere Statistiken zur KI-Adoption in kleinen Unternehmen finden."
]

projekt_zusammenfassung = zusammenfassen_erinnerungen(
 abgerufene_kunden_erinnerungen,
 "Fasse den aktuellen Fortschritt und die wichtigsten Punkte für den 'Acme Corp Blogbeitrag' zusammen."
)
print(f"Projektzusammenfassung:\n{projekt_zusammenfassung}")
# Beispielausgabe:
# Projektzusammenfassung:
# Der Fortschritt beim 'Acme Corp Blogbeitrag' mit dem Titel 'Zukunft der KI im Marketing' umfasst ein erstes Meeting am 2026-03-18.
# Die Recherche hat 3 Fallstudien zum ROI von KI-Marketing zusammengetragen. Die Einleitung wurde verfasst und erhielt am 2026-03-20 positives Feedback vom Kunden,
# mit dem Vorschlag, mehr praktische Beispiele hinzuzufügen. Die Arbeit am Abschnitt 'Personalisierte Kundenreisen mit KI' hat begonnen.
# Eine verbleibende Aufgabe ist es, aktualisierte Statistiken zur KI-Adoption in kleinen Unternehmen zu finden.

Diese Zusammenfassung wird dann als neue, höherwertige Erinnerung in der “Archivierten Projektzusammenfassungen” Kategorie gespeichert, wobei sie bei Bedarf auf die detaillierten Erinnerungen verweist. Wenn der Agent später schnell den Status des Acme Corp Projekts abrufen muss, kann er diese Zusammenfassung direkt abrufen, anstatt alle einzelnen Notizen durchzugehen.

Dieser Ansatz hilft auch beim Vergessen. Wenn ein Projekt abgeschlossen und archiviert ist, können die detaillierten Erinnerungen schließlich gelöscht oder in ein kaltes Speicher verschoben werden, während die wertvollen Zusammenfassungen bleiben.

Erinnerungsabruf mit HMF

Der Abrufprozess wird auch intelligenter:

1. Erstklassifizierung: Wenn der Agent Informationen abrufen muss (z. B. um eine Benutzeranfrage zu beantworten oder eine Aktion zu informieren), klassifiziert sein “Erinnerungsmanager” zuerst die *Art* der benötigten Informationen. “Was sind meine Kundenfristen?” würde auf “Kundenprojekte” hinweisen. “Erzähl mir von meinen persönlichen Schreibvorlieben” würde auf “Persönliche Vorlieben” verweisen.
2. Zielgerichtete Suche: Der Agent führt dann eine Vektorähnlichkeitssuche *nur innerhalb des identifizierten Kategorie-gedächtnisspeichers* durch. Dies ist viel schneller und genauer als die Suche in einer monolithischen Datenbank.
3. Kontextuelle Verfeinerung (Optional): Wenn die erste Suche zu viele oder zu wenige Ergebnisse liefert, kann der Agent seine LLM-Fähigkeiten nutzen, um die Suchanfrage zu verfeinern, Ergebnisse neu zu bewerten oder sogar entscheiden, eine breitere Kategorie oder die zusammenfassende Gedächtnisebene abzufragen. “Okay, ich habe ein paar Fristen gefunden, aber was ist die *dringendste*?”
4. Konsolidierter Abruf: Für komplexe Aufgaben könnte der Agent eine Zusammenfassung aus der Ebene 3 abrufen und dann bei Bedarf in die Kategorien der Ebene 2 für spezifische Details eintauchen.

Dieser “gestaffelte Zugriff” ist entscheidend. Er ahmt nach, wie Menschen Informationen abrufen: Wir erinnern uns nicht an jedes einzelne Gespräch, das wir jemals zu unserem Job hatten, wenn wir danach gefragt werden. Wir erinnern uns an die Zusammenfassung unseres Jobs, dann an spezifische Projekte, dann an spezifische Details innerhalb dieser Projekte.

Über die Speicherung hinaus: Aktives Erinnerungsmanagement

HMF öffnet auch die Tür für ein aktiveres Erinnerungsmanagement durch den Agenten selbst:

• Selbstreflexion & Konsolidierung: Periodisch kann der Agent seine eigenen Erinnerungen innerhalb einer Kategorie überprüfen, Redundanzen oder Möglichkeiten zur Zusammenfassung identifizieren und proaktiv konsolidieren.
• Vergessensrichtlinien: Definiere Regeln für das Vergessen. “Archiviert alle ‘Artikelideen (Aktiv)’, die seit 3 Monaten nicht berührt wurden.” “Lösche ‘Allgemeine Gespräche’ Einträge, die älter als 2 Wochen sind.” Dies verhindert Gedächtnisüberlastung ohne manuelles Eingreifen.
• Zielgerichtetes Beschneiden: Wenn ein spezifisches Projekt abgeschlossen ist, kann der Agent seine zugehörigen detaillierten Erinnerungen für die Archivierung oder endgültige Löschung kennzeichnen, während nur die hochrangige Zusammenfassung bleibt.

Mein Schreibagent hat jetzt einen nächtlichen Cron-Job, der eine “Erinnerungsüberprüfung” Funktion ausführt. Er sucht nach “Artikelideen (Aktiv)”, die seit über 60 Tagen nicht aktualisiert wurden, und fragt mich danach. Wenn ich bestätige, dass sie nicht mehr aktiv sind, verschiebt er sie in “Artikelideen (Archiviert)” und erstellt eine prägnante Zusammenfassung. Das hat meine aktive Erinnerung erheblich aufgeräumt, und mein Agent ist viel weniger geneigt, irrelevante alte Ideen hervorzuheben.

Umsetzbare Erkenntnisse für Ihre Agentenarchitektur

Wenn Sie Agenten erstellen und auf Probleme mit dem Gedächtnisskalieren stoßen, empfehle ich Folgendes:

1. Behandle nicht alle Erinnerungen gleich: Unterscheide zwischen kurzfristigem Gesprächskontext, mittelfristigem kategorisiertem Wissen und langfristiger zusammengefasster Weisheit.
2. Implementiere Kategorisierung früh: Gestalte das Gedächtnissystem deines Agenten mit expliziten Kategorien, die auf seinen Hauptfunktionen oder Nutzerdomänen basieren. Verwende einen kleinen LLM-Aufruf oder ein regelbasiertes System, um eingehende Informationen zu klassifizieren.
3. Verwende mehrere (kleinere) Vektorspeicher/Indizes: Anstatt eine riesige Vektordatenbank zu verwenden, ziehe in Betracht, separate Indizes oder Sammlungen für jede Gedächtniskategorie zu verwenden. Dies macht Suchen viel schneller und zielgerichteter.
4. Nutze Zusammenfassung für langfristiges Gedächtnis: Implementiere einen Prozess (manuell oder automatisiert), um periodisch Cluster verwandter detaillierter Erinnerungen zusammenzufassen. Speichere diese Zusammenfassungen separat und verlinke sie mit den detaillierten Einträgen.
5. Entwickle für das Vergessen: Baue explizite Richtlinien für das Beschneiden oder Archivieren alter, irrelevanter Informationen ein. Lass deinen Agenten nicht zum digitalen Sammler werden.
6. Gib deinem Agenten eine “Erinnerungsmanager” Rolle: Anstatt einfach Informationen ins Gedächtnis zu kippen, gib deinem Agenten eine interne Funktion oder einen Unteragenten, dessen einzige Aufgabe es ist, zu entscheiden, *wie* und *wo* Informationen gespeichert, abgerufen und verwaltet werden sollen.

Der Übergang von einem flachen, monolithischen Gedächtnis zu einem hierarchischen, aktiv verwalteten System war ein bedeutender Wandel für meinen Schreibagenten. Es ist schneller, intelligenter und weit weniger anfällig für semantische Verwirrung. Es erfordert ein wenig mehr Initialdesignarbeit, aber der Nutzen in Bezug auf Agentenleistung und Kohärenz ist absolut die Mühe wert. Probiere HMF in deinem nächsten Agentenprojekt aus und lass mich wissen, wie es läuft!

Bis zum nächsten Mal, bleib dran und baue intelligente Agenten!

Alex Petrov, agntai.net

Ähnliche Artikel

• Best Practices Für Ai Agent Skalierung
• Grounded Reinforcement Learning: Visual AI mit erklärbarem Denken stärken
• So Sicherst Du Die Skalierbarkeit Des Ai-Agenten

🕒 Published: March 28, 2026