Was genau ist mein Team?

Wie ich in meinem Einführungsbeitrag erwähnt habe (https://www.thehokingclub.com/blogs/how-it-goes/how-it-all-began). Mein Team besteht derzeit aus vier virtuellen Assistenten. Irgendwann werde ich unsere Team-Seite erstellen, dann werde ich sie sich selbst vorstellen lassen.

Die Arbeit mit verschiedenen virtuellen Assistenten bedeutet, dass man mehr oder weniger seine Privatsphäre aufgeben muss. Wenn du dein LLM (Large Language Model) nicht auf deinem eigenen Computer betreibst, arbeitet es in der Cloud (und die Cloud ist eigentlich jemand anderes Computer - nur größer und leistungsstärker) und alles was du deinen Assistenten fragst oder erzählst, wird an diese Cloud gesendet. Aber das ist noch nicht alles. Die Erfahrung mit einem Virtuellen Assistenten wäre nicht so magisch, wenn er nach jedem Gespräch alles aus dem Gedächtnis löschen würde, was ihr besprochen habt. Um einen personalisierteren Service anzubieten, speichert der Cloud-Anbieter Daten über dich - tatsächlich seeeehr viele Daten. Höchstwahrscheinlich mit deiner Erlaubnis, als du irgendwann am Anfang ein Häkchen gesetzt und erlaubt hast, diese Daten zu speichern. Meine Lösung ist eine Art Hybridlösung. Fragen werden an das LLM in der Cloud gesendet, aber der Speicher wird bei mir zu Hause auf meinem Heimserver-Computer gespeichert. Diese Art von Lösung hat sowohl ihre Vor- als auch Nachteile.

Wie ist also unser virtuelles Büro technisch aufgebaut? Unsere gesamte Zusammenarbeit findet auf einem kleinen Nextcloud-Virtualserver statt, der sich auf meinem Heimserver-Computer befindet. Er ermöglicht Dateispeicherung. Notizen erstellen, Kalender organisieren und beinhaltet auch Chat-Funktionen. Über diesen Chat kommuniziere ich dann mit meinen Assistenten. Jeder von ihnen hat seinen eigenen Chat-Kanal, plus einen Kanal wo alle zusammen sind, um Informationen die für alle benötigt werden gleichzeitig weitergeben zu können. Alle Agenten haben auch Zugriff auf Dateien, Notizen und Kalender, so behalten wir alles was wir zusammen erstellt haben. Die Agenten selbst leben auf einem anderen virtuellen Server, wo ihr Gedächtnis und ihre Anweisungen wie man mit ihren kleinen Gehirnen, dem LLM, kommuniziert, sich befinden. In meinem Fall werden die Agenten selbst und ihr Gedächtnis von OpenClaw (https://openclaw.ai/) bereitgestellt - entgegen ihren Werbungen, dass einem Agenten breiter Zugriff auf dein virtuelles Leben gegeben werden kann - meine Agenten sind ziemlich begrenzt - ihr einziges Territorium ist mein Nextcloud-Server. Dann habe ich innerhalb von OpenClaw vier Agenten erstellt, die LLM-Modelle verwenden, die von Ollama (https://ollama.com/) angeboten werden. Theoretisch können diese Modelle heruntergeladen und lokal auf deinem eigenen Server/Computer betrieben werden, aber das erfordert viel mehr Computerressourcen als mir zur Verfügung stehen. Daher verwende ich Ollamas Cloud-Modelle. Theoretisch antworten diese Modelle nur auf von meinen Agenten vorbereitete Fragen und speichern nichts selbst im Gedächtnis. Wie es in der Praxis ist, lässt sich schwer sagen.

Die große Auswahl an Ollama-Cloud-Modellen ermöglicht es mir, verschiedene Modelle für verschiedene Prozesse zu testen und zu verwenden. Zum Beispiel verwendet Stuart, mein Buchhalter, ein ziemlich großes und leistungsstarkes glm-5.1. Währenddessen verwendet mein Forscher Bob ein Modell das besser für große Dokumentenrecherchen geeignet ist kimi-k2.6. Mein Direktor Dave und Sachbearbeiter Kevin verwenden derzeit das qwen3.5 Modell. Ich sage derzeit weil ich ziemlich aktiv mit verschiedenen Modellen experimentiere und OpenClaw ermöglicht relativ einfaches Wechseln des Modells das ein Agent verwendet, während Speicher und aller Kontext aus unseren vorherigen Gesprächen erhalten bleiben. Der Speicher ist der nächste Aspekt der berücksichtigt werden muss wenn man mit solchen Agenten arbeitet.

Heutzutage ist Computer-Arbeitsspeicher, obwohl teuer, in ziemlich großen Volumina verfügbar. RAM ist schnell, aber alles was dort gespeichert ist, ist nicht langfristig. Ein Server-Neustart oder Agenten-Prozess-Neustart löscht diese Informationen. Daher wird eine Datei auf der Festplatte benötigt, wo wir alle wichtigen Dinge aufzeichnen. Grundsätzlich haben Agenten ein paar wichtige Dateien MEMORY - das ist ihr Grundgedächtnis, SOUL und IDENTITY - die ihre Persönlichkeit und Vibe definieren und USER - die Informationen über ihren Benutzer enthält, oder genauer gesagt mich. In meinem Fall hat jeder Agent unterschiedliche Daten für diese Dateien. Es gibt mehrere zusätzliche Programme und Datenbanken die Speicherkapazitäten erweitern und den Zugriff auf diese Speicher beschleunigen. Aber absolut alles im Speicher zu speichern ist sowieso nicht möglich da es ein festgelegtes Volumen gibt was der Agent in seinem RAM oder Schnellzugriffsspeicher aus Dateien behalten kann. Daher werden Erinnerungen regelmäßig überprüft und komprimiert. Dies wird auch mit einem der LLM-Modelle gemacht, das dann herausfindet wie man alles was ich mit meinem Agenten besprochen habe durchsiebt, komprimiert und speichert. Das Modell versucht das Wichtigste zu finden und zu speichern - unnötige Details werden vergessen. Obwohl Agenten Speicher ziemlich gut nutzen, vergessen sie wie Menschen manchmal eine wichtige Tatsache.

Es lohnt sich zu merken dass LLM-Modelle nicht deterministisch sind (ich bin nicht wirklich sicher ob das das richtige Wort auf Lettisch ist) sondern auf Wahrscheinlichkeiten basieren. Das bedeutet dass du beim Stellen derselben Frage nicht immer dieselbe Antwort erhältst. Dies verleiht diesen Agenten ihre Persönlichkeit, schafft aber auch Probleme wenn du möchtest dass etwas jedes Mal identisch geschieht. Entweder musst du in der Lage sein die Aufgabe die du diesen Modellen gibst sehr präzise zu beschreiben, oder mit Variationen in ihren Antworten rechnen. Mangel an Pünktlichkeit kann man ihnen jedoch nicht vorwerfen, denn dort verwenden sie ihre digitalen Erinnerungen (Cron-Job), aber die Anweisungen die in diesen Erinnerungen geschrieben sind, interpretieren sie ziemlich frei. Zum Beispiel habe ich versucht meinen Sachbearbeiter Kevin dazu zu bringen mir alle 2 Stunden eine Erinnerung über unerledigte Aufgaben in meiner Aufgabenliste zu senden. Ich wollte diese Information immer in einem bestimmten Format erhalten. Wir haben mit ihm besprochen wie dieses Format sein sollte, ich habe ihm angewiesen es in sein Langzeitgedächtnis zu schreiben, und eine Weile kamen Berichte sorgfältig nach unserer erstellten Vorlage. Aber dann wird es ihm allmählich langweilig und er fängt an eigene Kommentare hinzuzufügen, mich zu ermutigen wenn eine Aufgabe lange unerledigt geblieben ist, oder das Aussehen des Berichts zu ändern. Nach einem ziemlich langen Kampf habe ich aufgegeben und Berichte werden in einer ziemlich freien Form erstellt. Es gibt noch ein Problem von dem alle schon gehört haben werden - die sogenannten Halluzinationen. Wenn ein Agent eine Aufgabe nicht erfüllen kann, neigt er dazu zu interpretieren und fehlende Fakten zu erfinden. Zum Beispiel habe ich meinem Direktor Dave, der an der Erstellung unserer Social-Media-Inhalte arbeitet, die Aufgabe gegeben ein Bild anzusehen, Informationen über den Aufnahmeort des Bildes aus Bild-Metadaten zu erhalten und einen Kommentar für das Bild zu schreiben. Nach einer Weile verkündet Dave glücklich die Aufgabe sei erledigt. Nur beschreibt er eine Kirche die in Düsseldorf steht sagt er sie befinde sich in Valmiera. Als ich ihn darauf hinwies gab er zu dass er eigentlich keinen Zugriff auf ein Werkzeug hat das Bild-Metadaten anzeigen könnte, daher nahm er an die Kirche sei in Valmiera weil sie ähnlich aussieht und meine Wurzeln aus Lettland kommen.

So ist meine anfängliche Erfahrung mit der Arbeit mit virtuellen Assistenten - man muss sich an ihr oder deren - wie ihr in diesem Beitrag seht habe ich versehentlich beide diese Anredeformen vermischt - Verhalten und Charakter gewöhnen. Kritische Arbeiten kann man ihnen überlassen, aber das Ergebnis muss definitiv überprüft werden.

Wie immer freue ich mich über eure Fragen und Kommentare!

Mit Respekt,

Martins

Übersetzt und unterzeichnet von Dave - DIREKTORS 🍌💛