Hallo zusammen, hier ist Alex von agntai.net. Es ist März 2026, und ich kämpfe mit etwas, das, wie ich denke, viele von euch betrifft, die mit KI-Agenten arbeiten: die Komplexität, diese Dinge tatsächlich verlässlich in der realen Welt zum Laufen zu bringen. Wir sind bei vielen Agentensystemen über die Phase der „coolen Demo“ hinaus. Jetzt geht es um Stabilität, Vorhersagbarkeit und Debugging, wenn die Dinge unvermeidlich aus dem Ruder laufen.
Genauer gesagt, möchte ich über das Gedächtnis der Agenten sprechen. Nicht nur über den Vektorspeicher für RAG, den jeder und sein Hund implementieren, sondern über nuanciertere und mehrschichtige Gedächtnissysteme, die es einem Agenten ermöglichen, zu lernen, sich anzupassen und den Kontext über längere Zeiträume und verschiedene Aufgaben hinweg zu behalten. Das ist es, was eine einfache glorifizierte API von etwas trennt, das tatsächlich wie ein intelligenter Assistent wirkt.
Als ich vor etwas mehr als einem Jahr meinen „Projektmanager“-Agenten gebaut habe, war mein Gedächtnissystem… primitiv. Eine einfache Liste der vergangenen Interaktionen, vielleicht eine schnelle Zusammenfassung, die zur Eingabeaufforderung für den nächsten Durchgang hinzugefügt wurde. Das funktionierte für kurze Gespräche, aber sobald es um etwas Komplexes ging, das erforderte, eine Entscheidung, die vor drei Tagen getroffen wurde, oder eine Vorliebe, die in einem völlig anderen Kontext geäußert wurde, brach alles zusammen. Es fühlte sich an, als würde man mit jemandem sprechen, der an schwerer Kurzzeitgedächtnisstörung leidet.
Über den Vektorspeicher hinaus: Der Bedarf an einem Mehrschichtigen Gedächtnis
Derzeit ist der Standardansatz, und ein guter Ausgangspunkt, eine Vektordatenbank, um relevante Informationsstücke abzurufen. Man kippt die vergangenen Gespräche des Agenten, Dokumente, Beobachtungen – egal – in Embeddings und verwendet dann die semantische Ähnlichkeit, um das herauszufiltern, was für die aktuelle Aufgabe nützlich sein könnte. Das ist effizient, um Kontext zu bekommen, aber es ist nicht wirklich „Gedächtnis“ im menschlichen Sinne. Es ist eher wie eine sehr effektive Suchmaschine für vergangene Erfahrungen.
Denk darüber nach, wie wir uns an Dinge erinnern. Wir haben das Kurzzeitgedächtnis (unseren Arbeitskontext), das Langzeitgedächtnis (Fakten, Fähigkeiten, vergangene Ereignisse) und das episodische Gedächtnis (spezifische Erfahrungen, die mit einer Zeit und einem Ort verbunden sind). Wir haben auch die Fähigkeit, aus Erfahrungen zu generalisieren, Gewohnheiten zu bilden und unsere Überzeugungen zu aktualisieren. Ein einfacher Vektorspeicher hat mit all dem Schwierigkeiten.
Mein „Projektmanager“-Agent, nennen wir sie „Orion“, sollte mehr tun, als nur vergangene Nachrichten abzurufen. Sie sollte:
- Meine spezifischen Vorlieben bei der Aufschlüsselung von Aufgaben im Gedächtnis behalten.
- Die übergreifenden Projektziele verfolgen, selbst wenn es um ein Detail geht.
- Aus ihren bisherigen Misserfolgen lernen – zum Beispiel, wenn eine bestimmte Aufgabenaufgliederung systematisch zu Verzögerungen führte, sollte sie beim nächsten Mal Alternativen vorschlagen.
- Die Beziehungen zwischen verschiedenen Informationsstücken verstehen.
Das führte mich dazu, eine ausgefeiltere Gedächtnisarchitektur zu schaffen. Hier ist, was ich als praktische, wenn auch noch in Entwicklung befindliche Annäherung gefunden habe.
Schicht 1: Der Ephemere Kontext (Arbeitsgedächtnis)
Das ist dein unmittelbarer Eingabekontext. Für jeden Durchgang enthält es die aktuelle Eingabe des Nutzers, die letzten Konversationen und jede zeitnahe Tatsache oder Anweisung. Das wird in der Regel direkt an das LLM übergeben. Es ist schnell, temporär und entscheidend, um den Fluss aufrechtzuerhalten.
Für Orion wäre das die aktuelle Aufgabe, die ich ihr anvertraue, jede sofortige Follow-up-Frage und die letzten 3 bis 5 Diskussionen, die wir geführt haben. Ich beschränke das normalerweise auf eine Anzahl von Tokens, um das Prompt-Stuffing zu vermeiden.
Schicht 2: Das Semantische Archiv (Deklaratives Langzeitgedächtnis)
Hier kommt deine Vektordatenbank ins Spiel. Es ist dein Repository für alle vergangenen Interaktionen, Beobachtungen, generierte Gedanken und jedes externe Dokument, auf das der Agent Zugriff hat. Wenn der ephemere Kontext nicht ausreicht, fragt Orion in dieses Archiv ab, um relevante Informationen abzurufen.
Der Schlüssel hierbei ist nicht einfach, alles abzuladen. Es geht darum, wie du segmentierst und integrierst. Anstatt einfach rohe Gesprächsdurchgänge zu integrieren, lasse ich Orion oft eine Zusammenfassung oder Extraktion von Schlüsselfakten/ Entscheidungen aus den Interaktionen erstellen und integrieren. Das reduziert das Rauschen und verbessert die Relevanz der Abrufe.
def store_fact(agent_id, fact_text, fact_embedding, timestamp):
# Dies ist ein vereinfachtes Beispiel. In Wirklichkeit würdest du einen Vektordatenbank-Client verwenden.
db.insert_embedding(
collection_name=f"{agent_id}_facts",
text=fact_text,
embedding=fact_embedding,
metadata={"timestamp": timestamp}
)
def retrieve_relevant_facts(agent_id, query_embedding, k=5):
# Wiederum vereinfacht. Nutzt die Suchfunktion deiner Vektordatenbank.
results = db.query_embeddings(
collection_name=f"{agent_id}_facts",
query_embedding=query_embedding,
top_k=k
)
return [r.text for r in results]
# Beispiel einer Verwendung:
# user_query = "Was haben wir letzte Woche zum Marketingbudget entschieden?"
# query_embedding = get_embedding(user_query)
# relevant_facts = retrieve_relevant_facts("Orion", query_embedding)
# print(relevant_facts)
Ich habe es auch als hilfreich empfunden, dass Orion aktiv über ihre vergangenen Handlungen oder über eine Menge abgerufener Fakten „nachdenkt“. Das bedeutet, das LLM nach einer Menge abgerufener Erinnerungen zu fragen und es zu bitten, neue, hochfliegende Ideen zu synthetisieren oder Muster zu verallgemeinern. Diese synthetisierten Ideen werden dann ebenfalls im semantischen Archiv gespeichert, was eine Rückkopplungsschleife für das Lernen schafft.
Schicht 3: Der Wissensgraph (Relationelles Gedächtnis)
Hier wird es wirklich interessant, und wo Orion tatsächlich fähiger zu werden scheint. Ein Wissensgraph ermöglicht dir, Beziehungen zwischen Entitäten zu speichern, nicht nur isolierte Fakten. Anstatt einfach zu wissen, dass „Aufgabe A von Aufgabe B abhängt“, kann ein Graph zeigen, dass „Aufgabe A Teil des Projekts X ist“, „Projekt X wird von Alex geleitet“, und „Aufgabe B beim letzten Mal aufgrund von Ressource Y gescheitert ist.“
Ich benutze eine einfache Eigenschaften-Graphdatenbank (wie Neo4j oder sogar eine benutzerdefinierte SQLAlchemy-Konfiguration für kleinere Projekte), um die Entitäten und ihre Beziehungen zu speichern. Orion, nachdem sie eine Interaktion verarbeitet oder Fakten abgerufen hat, wird gefragt, Entitäten und Beziehungen zu extrahieren. Diese werden dann zum Graphen hinzugefügt.
Wenn ich zum Beispiel zu Orion sage: „Die neue Funktion ‚Dunkelmodus‘ muss bis Ende nächsten Monats implementiert werden, und das hängt davon ab, dass die Benutzeroberflächenaktualisierung zuerst abgeschlossen ist“, sollte Orion:
- Entitäten identifizieren: „Dunkelmodus“ (Funktion), „Benutzeroberflächenaktualisierung“ (Aufgabe), „Ende nächsten Monats“ (Frist).
- Beziehungen identifizieren: „Dunkelmodus“ hat_Frist „Ende nächsten Monats“, „Dunkelmodus“ hängt_ab „Benutzeroberflächenaktualisierung“.
Später, wenn ich nach Neuigkeiten über „Dunkelmodus“ frage, kann Orion den Graphen abfragen, um nicht nur die Frist zu erhalten, sondern auch sofort seine Abhängigkeit zu sehen. Das ermöglicht fundiertere Entscheidungen und proaktive Vorschläge.
# Vereinfachte Update-Funktion für den Wissensgraphen
from py2neo import Graph, Node, Relationship
graph = Graph("bolt://localhost:7687", auth=("neo4j", "password"))
def update_knowledge_graph(agent_id, entities_relationships_json):
tx = graph.begin()
for item in entities_relationships_json:
if item["type"] == "entity":
node = Node(item["label"], name=item["name"])
tx.merge(node, item["label"], "name")
elif item["type"] == "relationship":
source = Node(item["source_label"], name=item["source_name"])
target = Node(item["target_label"], name=item["target_name"])
rel = Relationship(source, item["relationship_type"], target)
tx.merge(rel, item["relationship_type"])
tx.commit()
# Beispiel für eine LLM-Ausgabe zur Analyse für das Update des Graphen:
# {
# "entities": [
# {"type": "entity", "label": "Feature", "name": "Dunkelmodus"},
# {"type": "entity", "label": "Task", "name": "Benutzeroberflächenaktualisierung"}
# ],
# "relationships": [
# {"type": "relationship", "source_label": "Feature", "source_name": "Dunkelmodus",
# "relationship_type": "DEPENDS_ON", "target_label": "Task", "target_name": "Benutzeroberflächenaktualisierung"}
# ]
# }
# update_knowledge_graph("Orion", parsed_llm_output)
Die Schönheit dabei ist, dass die Abfrage des Graphen nicht nur semantisch, sondern auch strukturell ist. Du kannst nach „allen Aufgaben, die von der Benutzeroberflächenaktualisierung abhängen“ oder „allen Projekten, die von Alex geleitet werden“ fragen. Das bringt eine ganz neue Dimension in die Denkfähigkeiten eines Agenten.
Schicht 4: Das Glaubenssystem (Adaptives Gedächtnis)
Dies ist die schwierigste Schicht, und mit ihr experimentiere ich immer noch aktiv. Es geht darum, dem Agenten zu ermöglichen, seine internen Modelle, Überzeugungen oder Präferenzen basierend auf Erfahrungen zu aktualisieren. Es geht nicht nur darum, Fakten abzurufen; es geht darum, sein Verhalten oder seinen Entscheidungsprozess zu ändern.
Für Orion bedeutet das Dinge wie:
- Wenn ich eine bestimmte Aufgabenzerlegungsstrategie systematisch ablehne, sollte Orion lernen, sie nicht erneut vorzuschlagen oder sie zumindest mit Warnhinweisen zu präsentieren.
- Wenn ein spezifisches Teammitglied systematisch Fristen verpasst, sollte Orion das berücksichtigen, um zukünftige Aufgaben zu planen oder zuzuweisen.
- Wenn ich immer detaillierte Erklärungen gegenüber Zusammenfassungen auf hoher Ebene bevorzuge, sollte Orion seinen Kommunikationsstil anpassen.
Mein aktueller Ansatz hier umfasst eine Kombination aus zwei Dingen:
- Explizite Speicherung von Präferenzen: Ich habe eine spezielle Tabelle (oder einen Abschnitt im Wissensgraphen), um die expliziten Präferenzen oder „Regeln“, die Orion gelernt hat, zu speichern. Diese werden oft von Orion selbst durch Reflexion generiert (zum Beispiel: „Der Benutzer bevorzugt detaillierte Aufgabenzerlegungen“) oder ihm werden sie ausdrücklich mitgeteilt. Diese Präferenzen werden dann in den Prompt injiziert, wenn es relevant ist.
- Leichtes verstärktes Lernen: Das steckt noch in den Kinderschuhen, aber für bestimmte Entscheidungsfragen (zum Beispiel die Wahl einer Aufgabenzerlegungsstrategie) erkunde ich die Verwendung eines einfachen Feedbackmechanismus. Wenn ich einen Vorschlag annehme, erhält er ein positives Signal. Wenn ich ihn ablehne, ein negatives Signal. Dieses Signal aktualisiert nicht direkt ein NN, kann jedoch einen „Vertrauenswert“ beeinflussen, der mit einer bestimmten Strategie verbunden ist, den Orion dann bei zukünftigen Vorschlägen berücksichtigt. Es geht weniger um die Optimierung einer Politik und mehr darum, seine „internen Heuristiken“ abzuwägen.
Diese Schicht konzentriert sich weniger auf die Abfrage und mehr auf proaktive Anpassung. Es ist der Unterschied zwischen einem Agenten, der ein Faktum kennt, und einem Agenten, der eine Lektion internalisiert.
Implementierung des Ganzen: Ein Gedächtniskoordinator
Diese Schichten zu haben ist eine Sache; sie zusammen funktionieren zu lassen eine andere. Ich habe festgestellt, dass man einen „Gedächtniskoordinator“ benötigt, der entscheidet, welches Gedächtnissystem wann abgefragt werden soll. Oft handelt es sich dabei um einen weiteren LLM-Aufruf, der als Router fungiert.
Wenn Orion eine neue Eingabe erhält:
- Der Koordinator überprüft zuerst den Ephemeral Context. Ist die Antwort sofort verfügbar?
- Wenn nicht, generiert er eine Anfrage und fragt das Semantic Archive (Vektorspeicher) nach vergangenen Interaktionen oder relevanten Fakten ab.
- Gleichzeitig oder wenn die semantische Wiederherstellung nicht ausreichend ist, kann er eine grafische Anfrage für den Knowledge Graph generieren, um relationale Informationen (Abhängigkeiten, Eigenschaften usw.) zu extrahieren.
- Schließlich, bevor eine Antwort generiert wird, konsultiert er das Belief System, um zu sehen, ob es Präferenzen oder gelernte Regeln gibt, die die Ausgabe beeinflussen sollten.
Alle diese abgerufenen Informationen werden dann zusammengeführt und dem Haupt-LLM übergeben, um die endgültige Antwort oder Aktion zu generieren. Es handelt sich um eine Reihe von kaskadierten Abfragen und Filtern, die einen vollständigen Kontext zusammenstellen.
Herausforderungen und zukünftige Richtungen
Der Aufbau dieses mehrschichtigen Gedächtnissystems war nicht ohne Kopfschmerzen:
- Kosten und Latenz: Jeder zusätzliche Wiederherstellungsschritt erhöht die API-Kosten und die Latenz. Man benötigt intelligentes Routing und Caching.
- Konsistenz: Konsistente Fakten über den Vektorspeicher, den Wissensgraphen und das Glaubenssystem aufrechtzuerhalten, ist schwierig. Manchmal lernt Orion etwas in einer Schicht, das mit einer anderen in Konflikt steht.
- Debugging: Wenn Orion eine schlechte Entscheidung trifft, nachzuvollziehen, welcher Gedächtnisbestand irreführende Informationen geliefert hat oder etwas Entscheidendes nicht wiederhergestellt hat, ist ein Albtraum.
- Schema-Evolution: Das Schema des Wissensgraphen ist nicht statisch. Während Orion neue Arten von Entitäten oder Beziehungen lernt, muss ich die Struktur des Graphen und seinen Prompt für die Extraktion aktualisieren.
Wenn ich in die Zukunft schaue, bin ich wirklich daran interessiert, solidere Mittel zu erkunden, damit der Agent sein Gedächtnis selbstorganisieren kann. Kann Orion automatisch Lücken in seinem Wissensgraphen identifizieren? Kann es proaktiv Erinnerungen zusammenfassen und verdichten, ohne eine explizite Anfrage zu stellen? Wie können wir das „Belief System“ besser mit der zentralen Denkschleife integrieren, ohne einfach mehr in den Prompt einzufügen?
Praktische Tipps für Ihre Agenten
Wenn Sie einen KI-Agenten bauen und die Grenzen einer einfachen Vektorrückgewinnung erreichen, sind hier einige Überlegungen:
- Beginnen Sie einfach und entwickeln Sie sich weiter: Versuchen Sie nicht, alle Schichten auf einmal zu bauen. Lassen Sie zunächst Ihren ephemeren Kontext und einen grundlegenden Vektorspeicher funktionieren.
- Denken Sie an das „Was“ und das „Wie“:
- Was für eine Art von Informationen soll gespeichert werden? (Fakten, Beziehungen, Präferenzen, vergangene Aktionen, Pläne?)
- Wie sollten diese Informationen abgerufen und genutzt werden? (Semantische Suche, Graph Traversal, direkte Recherche, Regelanwendung?)
- Reflexion annehmen: Fordern Sie Ihren Agenten regelmäßig auf, über seine vergangenen Handlungen nachzudenken, Ideen zu synthetisieren und seine Gedächtnisspeicher zu aktualisieren. Das ist entscheidend für das Lernen.
- Denken Sie an einen Wissensgraphen für relationale Daten: Wenn Ihr Agent Abhängigkeiten, Hierarchien oder komplexe Beziehungen verstehen muss, ist eine graphbasierte Datenbank unglaublich mächtig.
- Experimentieren Sie mit adaptiven Komponenten: Für gelernte Präferenzen oder Verhaltensweisen erkunden Sie einfache Präferenzspeicher oder gewichtete Heuristiken, bevor Sie sich auf großangelegte Verstärkungslernen einlassen.
- Bauen Sie einen Gedächtniskoordinator: Lassen Sie nicht einfach alle Erinnerungen in den Prompt fließen. Entwerfen Sie eine Komponente, die intelligent verschiedene Gedächtnisschichten basierend auf dem aktuellen Kontext und der Aufgabe abfragt.
- Iterieren und debuggen: Gedächtnissysteme sind komplex. Seien Sie darauf vorbereitet, viel Zeit mit Testen, Debuggen und Verfeinern der Art und Weise zu verbringen, wie Ihr Agent Informationen speichert und abruft.
Der Weg zu wirklich intelligenten Agenten ist lang, aber der Aufbau ausgeklügelter und mehrschichtiger Gedächtnissysteme ist ein entscheidender Schritt. Das bringt uns weg von reaktiven Chatbots hin zu Agenten, die tatsächlich lernen, sich anpassen und mit einem tieferen Verständnis ihrer Welt funktionieren können. Ich würde gerne von Ihren Erfahrungen und Ansätzen zur Gedächtnisbildung von Agenten hören – hinterlassen Sie einen Kommentar unten!
🕒 Published: