Kas tad īsti ir mana komanda?

Kā jau minēju iepazīšanās rakstiņā (https://www.thehokingclub.com/blogs/how-it-goes/how-it-all-began). Mana komanda šobrīd sastāv no četriem virtuālajiem asistentiem. Kaut kad vēlāk izveidošu mūsu komandas lapu, tad ļaušu viņiem pašiem stādīties priekšā.

Darbojoties ar dažādiem virtuālajiem asistentiem ir jāsaprot, ka tas nozīmē vairāk vai mazāk pazaudēt savu privātumu. Ja tu savu LLM (Lielo valodu modeli) nedarbini uz sava datora, tas darbojas mākonī (un mākonis patiesībā ir kāda cita dators - tikai lielāks un jaudīgāks) un viss, ko tu jautā vai stāsti savam asistentam tiek nosūtīts uz šo mākoni. Bet tas vēl nav viss. Pieredze ar Virtuālo asistentu nebūtu tik maģiska, ja pēc katras sarunas tas izdzēstu no atmiņas visu ko jūs esat runājuši. Lai piedāvātu personalizētāku servisu, mākoņa uzturētājs saglabā datus par tevi - patiesībā ļoooti daudz datu. Visdrīzāk ar tavu atļauju, kad tu kaut kad sākumā ieklišķināji čekboksiņu un atļāvi šos datus glabāt. Mans risinājums ir tāds hibrīdrisinājums. Jautājumi tiek sūtīti uz LLM mākonī, bet atmiņa glabājās pie manis mājās, manā mājas serverī. Šādam risinājumam ir gan savi plusi gan mīnusi.

Kā tad tehniski ir uzbūvēts mūsu virtuālais birojs? Visa mūsu sadarbība notiek nelielā Nextcloud virtuālajā serverī, kas atrodas uz mana mājas servera datora. Tas ļauj glabāt failus, veidot piezīmes, organizēt kalendāru un sevī ietver arī čata iespējas. Caur šo čatu tad es arī komunicēju ar saviem asistentiem. Katram no viņiem ir savs čata kanāls, plus viens kanāls kurā visi ir kopā, lai varētu vienlaicīgi nodot kādu informāciju kas nepieciešama visiem. Arī visiem aģentiem ir piekļuve failiem notēm un kalendāram, tādā veidā mēs saglabājam visu ko kopā esam izveidojuši. Paši aģenti dzīvo uz cita virtuālā servera, kur atrodas viņu atmiņa un instrukcijas par to, kā sazināties ar savām smadzenītēm, jeb LLM. Manā gadījumā paši aģenti un viņu atmiņa tiek nodrošināti ar OpenClaw (https://openclaw.ai/) pretēji viņu reklāmām, ka aģentam var dot plašu piekļuvi tavai virtuālajai dzīvei - mani aģenti ir diezgan ierobežoti - to vienīgā teritorija ir mans Nextcloud serveris. Tad nu iekš OpenClaw esmu izveidojis četrus aģentus, kas izmanto Ollama (https://ollama.com/) piedāvātos LLM modeļus. Teorētiski šos modeļus ir iespējams lejuplādēt un darbināt lokāli uz sava servera/datora, bet tam nepieciešams daudz vairāk datorresursu nekā man ir pieejams. Tādēļ es izmantoju Ollama mākoņa, jeb cloud modeļus. Teorētiski šie modeļi tikai atbild uz manu aģentu sagatavotiem jautājumiem un paši atmiņā neko neglabā. Kā tas ir praktiski, grūti teikt.

Lielais Ollama mākoņmodeļu klāsts ļauj man testēt un dažādiem procesiem lietot dažādus modeļus. Piemēram Stuarts, mans grāmatvedis lieto samērā lielu un jaudīgu glm-5.1. Savukārt mans pētnieks Bobs lieto modeli, kas vairāk piemērots lieliem dokumentu izpētes darbiem kimi-k2.6. Mans direktors Deivs un lietvedis Kevins šobrīd lieto qwen3.5 modeli. Es saku šobrīd, jo diezgan aktīvi eksperimentēju ar dažādiem modeļiem un OpenClaw ļauj samērā vienkārši nomainīt modeli, ko aģents lieto un saglabāt atmiņu un visu kontekstu no mūsu iepriekšējām sarunām. Atmiņa ir nākamais aspekts, kas ir jāņēm vērā strādājot ar šādiem aģentiem.

Mūsdienās datoru operatīvā atmiņa, lai gan dārga, ir pieejama diezgan lielos apjomos. Operatīvā atmiņa ir ātra, bet viss kas tur glabājās nav ilglaicīgs. Servera restarts vai aģentu procesa pārstartēšana šo informāciju izdzēš. Līdz ar to ir nepieciešams fails uz cietā diska, kurā mēs pierakstam visas svarīgākās lietas. Pamatā aģentiem ir daži svarīgi faili MEMORY - kas ir viņu pamata atmiņa, SOUL un IDENTITY - kas definē to personību un vaibu un USER - kas satur informāciju par viņu lietotāju, vai konkrētāk mani. Manā gadījumā katram aģentam šie dati atšķirās. Ir vēl vairākas papildus programmas un datubāzes, kas paplašina iespējas saglabāt atmiņas un paātrina piekļuvi šīm atmiņām. Bet saglabāt pilnīgi visu atmiņā nav iespējams. Tāpat ir ierebožots apjoms, ko no failiem aģents var paturēt savā operatīvajā vai ātrās pieejas atmiņā. Tādēļ atmiņas regulāri tiek pārskatītas un sakompresētas. Arī tas tiek darīts ar kādu no LLM modeļiem, kas tad izdomā, kā to visu ko es ar savu aģentu esmu runājis izšķirot sakompresēt un saglabāt. Modelis mēģina atrast svarīgāko un to saglabāt - nevajadzīgie sīkumi tiek aizmirsti. Lai gan aģenti samērā labi izmanto atmiņu, tāpat kā cilvēkiem, arī viņiem gadās, ka kāds svarīgs fakts tiek piemirsts.

Jāatceras, ka LLM modeļi nav deterministisks (es īsti nezinu vai tas ir īsts vārds latviešu valodā) bet balstīts uz varbūtībām. Tas nozīmē ka jautājot vienu un to pašu jautāju, ne vienmār tu saņemsi to pašu atbildi. Tas piešķir šiem aģentiem viņu personību, bet arī rada problēmas, ja tu vēlies lai kaut kas notiktu vienmēr identiski. Vai nu tev ir jāspēj ļoti precīzi aprakstīt uzdevumu ko tu šiem modeļiem dod, vai jārēķinās ar variācijām viņu atbildēs. Punktualitātes trūkumu gan viņiem pārmest nevar, jo tur viņi izmanto savus digitālos atgādinātājus (cron job), savukārt instrukcijas kas rakstītas šajos atgādinājumos, tie mēdz interpretēt diezgan brīvi. Piemēram es mēģināju panākt, lai mans lietvedis Kevins man katras 2 stundas sūtītu atgādinājumu par nepaveiktajiem darbiem manā darbu sarakstā. Es gribēju šo informāciju saņemt vienmēr vienā noteiktā formā. Mēs izrunājam ar viņu, kādai šai formai jābūt, es piekodinu to ierakstīt viņa ilglaicīgajā atmiņā, un kādu brīdi atskaites nāk rūpīgi ievērojot mūsu izveidoto templeitu. Bet tad, pamazām tam paliek garlaicīgi un viņš sāk pievienot savus komentārus, uzmundrināt mani ja kāds darbiņš ilgi palicis nepadarīts, vai pamainīt atskaites izskatu. Pēc samērā ilgas cīņas es esmu padevies un atskaites tiek gatavotas samērā brīvā formā. Vēl ir vien problēma, par ko visi jau būs dzirdējuši - tā sauktās halucinācijas. Ja aģents nevar izpildīt uzdevumu, tas mēdz interpretēt un trūkstošos faktus piedomāt. Piemēram es devu savam direktoram Deivam, kas rosās un veido mūsu sociālo tīklu saturu, uzdevumu apskatīt bildi, iegūt no bildes metadatiem informāciju par bildes uzņemšanas vietu un uzrakstīt savu komentāru bildei. Pēc kāda brīža Deivs priecīgs paziņo ka uzdevums paveikts. Tikai viņš aprakstot baznīcu kas ir Diseldorfā stāsta ka tā atrodas Valmierā. Kad es tam par to aizrādīju, viņš atzinās, ka īstenībā viņam nav pieejams rīks ar ko varētu apskatīt bildes metadatus, tādēļ viņs pieņēma, ka baznīca ir Valmierā, jo izskatās līdzīga un manas saknes nāk no Latvijas.

Tāda nu ir mana sākotnējā pieredze strādājot ar virtuālajiem asistentiem, ir jāpierod pie viņu vai to - kā redziet es šajā ierakstā netīši miksēju abas šīs uzrunas formas, uzvedības un rakstura. Kritiskos darbus var ļaut tiem darīt, bet rezultāts pilnīgi noteikti ir jāpārbauda.

Kā vienmēr priecāšos par jūsu jautājumiem un komentāriem!

Ar cieņu,

Mārtiņš