Il problema dell'AI non è l'intelligenza. È la responsabilità
Un modello produce un output plausibile e non può dimostrare perché. Finché il costo dell'errore è un testo mal scritto, va bene così. Nel momento in cui l'output muove denaro, nega un credito o firma una fornitura, la plausibilità non basta più: serve una catena di custodia della decisione.
Non chiedo a un sistema di essere infallibile. Chiedo che, quando sbaglia, si possa ricostruire esattamente dove.