Pilot je radio. Produkcija je drugo pitanje

Gotovo svaki pilot AI agenta radi. To nije znak da je sustav spreman: to je znak da je demo bio postavljen tako da uspije. Ide sretnim putem, na podacima koje je netko odabrao, uz inženjera u sobi koji ga vrati na pravi put kad skrene. Produkcija ide na svemu ostalom — bez nadzora, u tri ujutro, na ulazima koje nitko nije prije vidio. Razlika između to dvoje nije model. To je operativna površina oko modela, i tu se većina pilota tiho zaustavi.

Pitanja na koja demo ne mora odgovoriti

Poredajte pitanja na koja demo nikad nije prisiljen odgovoriti i pokaže se oblik pravog posla. Što agent radi kad tool pukne u timeout usred upisa — ostavlja li polovičan zapis ili ništa? Ako se isti zahtjev ponovi, stvara li jedan zapis ili dva? Pod kojim identitetom radi kad nitko ne gleda, i što taj identitet smije dirati? Što se događa s redom čekanja kad model provider posustane na četrdeset minuta umjesto da padne odjednom? Tko se zove kad nešto pukne, i što zapravo vidi kad otvori trace?

Nijedno od tih pitanja nije o točnosti. Sva su o tome što se događa oko odluke, ne o samoj odluci. Pilot može proći savršeno dok se svako od njih tiho zanemaruje.

Ništa od toga nije problem modela

Retry, idempotency, servisni računi s minimalnim pravima, backpressure, observability. To je uobičajen posao na distribuiranim sustavima — isti onaj koji biste radili za bilo koji servis koji piše u bazu i zove druge servise. S agentom postaje teži zbog načina na koji pada. Proces koji padne baci iznimku koju možete uhvatiti. Krivi izlaz LLM-a ne: to je uvjerljiv, uredno formatiran odgovor koji vrati 200 i nastavi nizvodno izgledajući jednako kao točan.

To mijenja redoslijed prioriteta. Ne možete se osloniti na to da će proces pasti glasno. Morate projektirati za slučaj u kojem svaki sloj javlja uspjeh, a sadržaj je svejedno kriv — što znači da upis onoga što je agent napravio mora biti inženjerski riješen jednako pažljivo kao i sama akcija.

Zadnji sastanak

Onda dolazi sastanak koji odlučuje ide li pilot u produkciju. Osoba zadužena za rizik, revizor ili sigurnosni tim partnera postavi usko pitanje: što je agent napravio na ovom predmetu, prije četiri mjeseca? Ako je odgovor tablica logova u istoj bazi u koju piše aplikacija, pilot tu završava. Svatko s administratorskim pravima može je izmijeniti, a nitko ne može dokazati da nije. "Vjerujte našim logovima" nije odgovor koji revizor, banka ili strani partner prihvaća.

Za firme u regiji koje sada digitaliziraju postojeće sustave to je praktično pitanje, ne teorijsko. Zapis u decision ledger mora pisati komponenta s vlastitim identitetom, pregledana kao i svaki drugi dio produkcijskog koda, i učinjena takvom da se ne može prepraviti: najčišći je način usidriti otisak zapisa na lancu koji nitko ne kontrolira, tako da treća strana može provjeriti bez povjerenja u vas. Akcija je ono što pilot pokazuje. Dokaziv audit trail te akcije je ono što joj dopušta da preživi zadnji sastanak.

Pilot se mjeri točnošću. Produkcija onime što se dogodi kad pogriješi — i time možete li, mjesecima kasnije, dokazati što je napravio.

Koje od tih pitanja je u vašem pilotu još otvoreno?