Problem AI-ja nije inteligencija. Nego odgovornost
Model proizvodi uvjerljiv rezultat i ne može dokazati zašto. Dok je cijena pogreške loše napisan tekst, to je u redu. U trenutku kad rezultat pomiče novac, odbija kredit ili potpisuje nabavu, uvjerljivost više nije dovoljna: treba lanac skrbi nad odlukom.
Ne tražim da sustav bude nepogrešiv. Tražim da se, kad pogriješi, može rekonstruirati točno gdje.