Quando la macchina risponde al posto tuo — chi ne risponde?

Un cliente telefona e dice una frase che tre anni fa non esisteva: «L'IA ha detto che siete aperti fino alle 18». Voi chiudete alle 17. Nessuno l'ha mai scritto. Eppure era lì, in una risposta che sembrava un'informazione data da voi.

Chi è stato?

La domanda che preoccupa davvero chi decide.

Da poco, tra te e il tuo cliente c'è un'istanza che nessuno ha incaricato: una macchina che dà informazioni sulla tua azienda senza chiedertelo. Risponde a tuo nome, ma non per tuo conto. Ti cita, senza citarti.

La domanda ovvia è: chi ne risponde? È comprensibile, ma porta in un vicolo cieco — nel singolo caso è una questione giuridica, e non la risolve né un articolo di blog né un fornitore. Il quadro normativo europeo sta appena nascendo; l'abbiamo descritto in un articolo dedicato alla sovranità sui propri dati verso i sistemi IA, lì però guardando all'addestramento, non alla risposta.

La domanda a cui invece puoi rispondere tu, oggi, è un'altra — e in pratica è la più importante: riesci a ricostruire da dove viene un dato, e a correggerlo alla fonte?

Perché una macchina si inventa qualcosa.

I modelli linguistici non restituiscono ciò che è archiviato: generano la continuazione più probabile. Dove un dato manca, un dato nasce comunque — non è un guasto, è il modo in cui funzionano, e il termine tecnico è allucinazione.

Ne segue qualcosa di scomodo: un vuoto è più pericoloso di un dato sbagliato. Dove non c'è nulla viene inserito qualcosa di plausibile — gli orari abituali del settore, la fascia di prezzo abituale, i servizi abituali. Chi non deposita una risposta, una risposta la riceve lo stesso.

Tre casi da non confondere.

Vale la pena distinguere che cosa può andare storto:

1. Affermazione falsa su di te. La macchina sostiene qualcosa di non vero. È un tema di reputazione — lo descriviamo in Quando l'IA ti cita male.
2. Affermazione superata. Il dato era giusto e non lo è più. È il caso più frequente e il più innocuo — finché esiste una fonte aggiornata che lo contraddice.
3. Affermazione inventata. Una fonte non c'è mai stata. È il caso di cui parliamo qui.

Per tutti e tre vale la stessa contromisura, ed è poco spettacolare: un punto in cui sta la verità, aggiornato, leggibile a macchina e chiaramente legato al tuo dominio — l'idea di Il tuo dominio è la fonte.

La tracciabilità è una qualità aziendale, non una questione legale.

Che un dato sulla tua azienda sia ricostruibile dipende da tre cose, tutte nelle tue mani:

• Il dato esiste da qualche parte da te? Orari, fascia di prezzo, zona servita, prestazioni — come dato, non solo come frase in una pagina che una persona trova e una macchina salta.
• È univoco? Due punti con due verità sono peggio di un vuoto. Allora è la macchina a decidere a quale credere.
• È aggiornato? Un dato fermo da due anni non diventa falso perché è vecchio — ma perde credibilità se accanto ce n'è uno più recente.

Chi risponde sì a queste tre domande, in caso di contestazione non ha solo una sensazione migliore: ha qualcosa da mostrare, una fonte databile con una data. È la differenza tra «non l'abbiamo mai detto» e «qui, dal 12 marzo, c'è scritto che cosa vale».

Che cosa significa per la decisione.

Non si tratta di anticipare ogni possibile domanda — non ci riesce nessuno. Si tratta della manciata di dati per cui un'informazione sbagliata fa danno vero: reperibilità, competenza, che cosa fate e che cosa espressamente no, e tutto ciò che tocca sicurezza o scadenze.

Questi dati vanno in un punto che si possa cambiare senza chiamare uno sviluppatore. Perché la tracciabilità non è un'installazione una tantum, è un'abitudine: quando qualcosa cambia, deve cambiare in un punto — non in sette, di cui quattro si dimenticano.

E se vuoi sapere che cosa dicono oggi le macchine su di te: guardare non costa nulla. Come verificarlo in modo sistematico, invece di scoprirlo per caso dal cliente, sta nel cruscotto della visibilità.

Da portare a casa.

«Chi ne risponde?» nel singolo caso è una domanda da giuristi. «Da dove viene, e dove lo correggo?» è una domanda tua — e a quella puoi rispondere oggi. Chi ha una fonte curata e univoca trasforma un incidente in una correzione. Chi non ce l'ha, discute senza prove.