Kad chatbot zaboravi da ste već pitali gdje ste ostavili ključeve
AriadneMem, novi memorijski sustav za LLM agente, rješava dva ključna problema dugoročnih dijaloga: disconnected evidence i state updates. Prvi se odnosi na situacije kad AI mora povezati činjenice iz prošlosti, primjerice ako ste jučer rekli da ste alergični na kikiriki, a danas pitate što naručiti za desert. Drugi problem je gori – kad AI zaboravi promjene, poput novog termina sastanka, i inzistira na starom rasporedu.
Istraživački rad na arXivu opisuje sustav koji bi trebao riješiti te nedostatke, ali i pokazuje koliko je teško biti konzistentan s memorijom veličine hrpe papira.
Sustav radi u dvije faze: offline konstrukcije i online rezoniranja. U prvoj fazi koristi entropy-aware gating da filtrira šum – u praksi to znači da briše besmislice koje šaljete chatbotu kad vam je dosadno. Zatim primjenjuje conflict-aware coarsening da spoji duplikate i zadrži samo važne promjene, kao što bi svaki normalan čovjek trebao raditi s vlastitim bilješkama.
Druga faza, online rezoniranje, izbjegava skupo iterativno planiranje. Jer, ako AI treba pola sata da se sjeti gdje ste jučer parkirali auto, onda je bolje da i dalje pitate Google Maps.
Ironija je u tome što AriadneMem radi ono što bi svaki dobar asistent trebao – pamti kontekst i ažurira podatke. Ali to radi tek sad, nakon godina razgovora s chatbotima koji su zaboravljali više od studenta nakon noći u KSET-u.
Istraživači su shvatili da korisnici ne žele razgovarati s entitetom koji svaki put zaboravlja tko ste. Pitanje je koliko će dugo trebati da se ta spoznaja proširi na sve one koji dizajniraju sučelja koja nas tjeraju da stalno ponavljamo iste podatke.
Tko dobiva, tko gubi, a tko će i dalje zaboravljati rođendane
Ako AriadneMem zaista funkcionira, najveći dobitnici bit će korisnici umorni od ponavljanja istih informacija. To su vjerojatno oni koji su godinama frustrirani jer pametni uređaji zaboravljaju postavke nakon svakog ažuriranja.
S druge strane, gubitnici bi mogli biti tvrtke koje prodaju skupe sustave za upravljanje znanjem. One rade isto što i AriadneMem, samo s više korisničkih sučelja i manjim uspjehom.
No, pravo pitanje je hoće li ovaj sustav uopće biti široko prihvaćen. Dugoročna memorija AI-ja otvara niz etičkih pitanja: tko kontrolira podatke koje AI pamti, kako se osigurava da se ne koriste za manipulaciju, i što se događa kad AI počne pametnije povezivati činjenice od nas.