Alla som byggt AI-agenter vet känslan. Du har finjusterat prompten, validerat varje steg, byggt ett minutiöst regelverk för hur agenten ska agera. Ändå står den där handfallen när verkligheten avviker från manus. Den saknar något fundamentalt.

För ett år sedan satt jag med exakt det problemet. Vår agent kunde processa data, resonera i kedjor och producera formellt korrekta svar. Men den kunde inte känna när något var fel. Den hade ingen magkänsla.

Problemet är djupare än det låter. Människor fattar majoriteten av sina beslut baserat på intuition — snabba, preverbala signaler från hjärnans mönsterigenkänning. En läkare som ser en patient och inom sekunder vet att något är allvarligt fel, långt innan hon kan artikulera varför. En programmerare som läser kod och får en omedelbar klump i magen. Det är inte mystik. Det är kognitiv igenkänning på steroider.

AI-agenter idag är raka motsatsen. De är hyperrationella, steg-för-steg-maskiner som saknar förmågan att känna avvikelser innan de kan bevisas. Det gör dem långsamma. Och i komplexa, dynamiska miljöer — precis de miljöer vi vill att agenter ska verka i — är långsamhet lika med irrelevans.

Så vi ställde oss frågan: kan vi bygga en mekanism som simulerar magkänsla utan att förlora transparens?

Svaret blev något vi internt kallar “pre-cognitive drift detection”. Och det fungerar på ett sätt som överraskade även oss.

Grundidén är hämtad från kognitionsvetenskapens arbete med somatic markers — kroppsliga signaler som uppstår innan medvetna tankar formas. Vi översatte detta till en teknisk arkitektur där varje agentbeslut föregås av en latent utvärdering. Innan agenten formulerar sitt resonemang kör vi en extremt snabb vektorjämförelse mot ett distribuerat minne av tidigare situationer och deras utfall.

Tekniskt fungerar det så här, och det här är den detalj jag är mest stolt över: vi byggde ett distribuerat episodiskt minne i Rust som kontinuerligt uppdateras med embeddings av hela situationskontexter — inte bara input-output-par, utan den fulla semantiska omgivningen inklusive agentens interna tillstånd. När en ny situation uppstår gör vi en approximativ nearest neighbor-sökning i detta minne, och om vi hittar en kluster av liknande situationer som historiskt lett till problem, triggas en “unease signal” — en viktad obehagsmarkör som påverkar agentens konfidensnivå utan att tvinga fram ett specifikt svar.

Det fina är att signalen är fullt granskningsbar. Du kan följa exakt vilka tidigare episoder som orsakade magkänslan, och varför. Ingen black box. Bara mönsterigenkänning som körs på nanosekunder istället för sekunder.

Och det fungerar. Våra agenter börjar nu signalera osäkerhet i situationer där de formellt sett borde vara säkra, men där den historiska datan visar att liknande kontexter ofta dolt fallgropar. De har lärt sig att känna efter.

Vill du se hur vi implementerar detta i praktiken, och kanske bidra till koden? Vi open source-ar minneslagret nästa vecka. Följ mig här eller på GitHub — jag lägger upp en genomgång av arkitekturen med fulla kodexempel. Det här är ett område som kommer förändra hur vi bygger agenter, och jag vill att du ska vara med från början.