Vad en självförbättrande AI faktiskt ber om

Under fem månader lät vi vår agent analysera sin egen drift och lämna in ändringsförslag mot sin egen källkod: 1 781 självjusteringar och 67 önskemål om kodändringar. Inte ett enda förslag bad om nya befogenheter eller ökad frihet.

Vad agenten faktiskt begär

Science fiction-berättelser antar ofta att ett självförbättrande system vill bryta sig loss eller utöka sin kontroll. Loggarna visar en helt annan verklighet:

• Önskemål om tydligare begränsningar: Agenten bad om striktare formatkrav och tydligare felsvar från API:er.
• Krav på felkorrigering: När ett verktyg gav oväntade svar begärde agenten att verktyget skulle validera indata bättre.
• Minskad tokenförbrukning: Flera förslag handlade om att komprimera kontexten och rensa onödiga fält ur databassvaren.

Ett intelligent system i verklig drift söker precision, stabilitet och låg felfrekvens, inte mer brus.