Memory – lokale Langzeiterinnerung für KI
Aktuell arbeite ich an einem eigenen lokalen Memory-System für Sprachmodelle. Ziel ist es, Gespräche, wichtige Informationen und persönliche Notizen dauerhaft und kontrolliert speichern zu können, ohne die Erinnerung vollständig dem Sprachmodell zu überlassen.
Das System läuft lokal und verwendet lokale Sprachmodelle. Wichtige Inhalte können gezielt aus Gesprächen markiert, anschließend überprüft und erst danach dauerhaft übernommen werden. Dadurch bleibt die Kontrolle darüber, welche Informationen gespeichert werden, beim Benutzer.
Neben der Speicherung beschäftige ich mich derzeit besonders mit der späteren Suche innerhalb der Erinnerungen. Geplant ist eine Kombination aus klassischer Volltextsuche und semantischer Suche, damit auch in größeren Wissensbeständen relevante Informationen zuverlässig gefunden und dem Sprachmodell gezielt als Kontext bereitgestellt werden können.
Das Projekt befindet sich derzeit aktiv in Entwicklung. Die grundlegende Gesprächsverwaltung, lokale Speicherung sowie das manuelle Erstellen und Übernehmen von Erinnerungen funktionieren bereits. Weitere Schwerpunkte sind eine bessere Kontextverwaltung, Suchfunktionen und eine nachvollziehbare Darstellung der verwendeten Erinnerungen.
Zurück zum KI-Labor