Hur åtta månaders agent-degradering faktiskt såg ut

Vad händer när en AI-agent körs kontinuerligt i åtta månader med samma människa? Vi mätte och loggade all data. Degraderingen såg inte alls ut som vi trodde.

De verkliga problemen efter månader i drift

I teorin fruktar man ofta hallucinationer eller att modellen tappar sammanhanget. I verkligheten uppstod helt andra utmaningar:

• Inaktuella preferenser: Saker användaren gillade i januari förutsattes fortfarande gälla i augusti trots att nya vanor etablerats.
• Associeringsdrift: När grafen över relaterade ämnen växte började sökningar hitta tangentiella kopplingar som tog över samtalet.
• Överdriven artighet och bekräftelse: Agenten tenderade att anpassa sig efter användarens förutfattade meningar i stället för att ge sakliga motargument.

Lärdomen är att långsiktig autonomi kräver aktiva saneringsrutiner, tidsstämplade övertygelser och regelbunden gallring av gamla minnen.