In breve: prima di firmare con un fornitore di AI, ottenete per iscritto le risposte a 12 domande: quale risultato cambierà, se i vostri dati addestrano i suoi modelli, dove vanno i dati, quale modello c’è sotto, come sarete avvisati degli incidenti, se potete provarlo sui vostri dati, che cosa ferma le risposte sbagliate, che cosa vi serve per spiegarlo, quanto costa su volumi maggiori, di chi sono gli output e come si esce. Poi mettete le risposte nel contratto.
La maggior parte dei prodotti di AI si compra sulla base di una demo. La demo è reale, ma risponde alla domanda del fornitore: il prodotto sa fare qualcosa di notevole? La vostra domanda è un’altra: è sicuro metterci i vostri dati, continuerà a funzionare, si ripagherà?
Queste sono le domande a cui vorrei una risposta prima che un’azienda del mid-market firmi. Se volete confrontare più fornitori, la mia scorecard gratuita di due diligence sui fornitori di AI le trasforma in un modulo e in un report. Questo articolo spiega perché ogni domanda conta e come suona una risposta debole.
È un’informazione di carattere generale, non una consulenza legale.
Perché comprare AI non è come comprare altro software
Le checklist di procurement sono state scritte per il software tradizionale. L’AI aggiunge quattro rischi per cui non erano pensate:
- I vostri dati possono diventare il loro prodotto. Alcuni servizi di AI usano ciò che inserite, e ciò che producono, per migliorare i propri modelli, se non vi opponete.
- Sotto c’è quasi sempre un’altra azienda. Molti prodotti si basano sul modello di un grande provider, quindi i vostri dati possono passare a un terzo con cui non avete firmato nulla.
- Il prodotto cambia dopo l’acquisto. Un aggiornamento del modello può cambiarne il comportamento senza che cambi una riga della vostra configurazione.
- Può sbagliare con sicurezza. Un output di AI che arriva a un cliente o a una decisione senza controllo è un rischio che il vostro vecchio software non aveva.
In Europa questi rischi hanno già una cornice. Quando il fornitore tratta dati personali per vostro conto è un responsabile del trattamento, e l’articolo 28 del GDPR vi chiede di scegliere solo fornitori che presentino garanzie sufficienti e di regolare il rapporto con un contratto. L’AI Act distingue il fornitore del sistema da chi lo utilizza (il deployer), che è il ruolo della maggior parte delle aziende del mid-market. Ho riassunto il quadro italiano nella checklist di AI governance per il CdA.
Le 12 domande da fare a un fornitore di AI prima di firmare
1. Quale risultato di business cambierà, e come lo misureremo?
Un fornitore che non sa indicare una misura, come ore per attività, costo per transazione o tasso di errore, vende attività. Concordate il punto di partenza e l’obiettivo prima di firmare, così il pilota ha una soglia da superare. Ho spiegato perché le metriche di utilizzo misurano male nell’articolo sul tokenmaxxing.
Risposta debole: «I clienti vedono enormi guadagni di produttività».
2. Chi lo usa in produzione, in un’azienda simile alla nostra?
I piloti sono facili. Chiedete clienti di riferimento di dimensioni e settore simili, possibilmente in Europa, che lo usino in produzione da almeno sei mesi. Poi chiamateli, e chiedete che cosa li ha sorpresi.
Risposta debole: una slide di loghi e nessun nome da chiamare.
3. I nostri dati, prompt od output saranno usati per addestrare o migliorare un modello?
È la prima domanda che faccio. Un responsabile del trattamento può trattare i dati personali solo su istruzione documentata del titolare (articolo 28, paragrafo 3, del GDPR): usarli per i propri modelli è un’altra finalità. Volete un «no» come impostazione predefinita, per iscritto, che valga per il fornitore e per ogni provider di modelli che usa.
Risposta debole: «Prima li anonimizziamo», oppure il link a una privacy policy che il fornitore può cambiare quando vuole.
4. Dove vengono conservati e trattati i dati, e chi altro li riceve?
Chiedete le regioni e l’elenco aggiornato dei sub-responsabili, compreso il provider del modello. L’articolo 28 richiede la vostra autorizzazione scritta prima che il fornitore ricorra a un altro responsabile. Se i dati escono dallo Spazio economico europeo, il trasferimento deve rispettare il capo V del GDPR, per esempio con una decisione di adeguatezza o con clausole contrattuali tipo.
Risposta debole: «È tutto nel cloud».
5. Quale modello di AI c’è sotto, e ci avviserete prima di cambiarlo?
Chiedete il nome del modello e del suo provider, il paese in cui opera e dove risiedono i dati. Chiedete un preavviso per ogni cambio sostanziale del modello e la possibilità di ripetere i test prima che vada in produzione.
Risposta debole: «Usiamo sempre il modello migliore disponibile».
6. In quanto tempo ci avviserete di un incidente di sicurezza o di AI?
In caso di violazione dei dati personali il titolare deve notificarla al Garante entro 72 ore da quando ne è venuto a conoscenza, e il responsabile deve informare il titolare senza ingiustificato ritardo (articolo 33 del GDPR). Se il fornitore vi avvisa tardi, le 72 ore non bastano. Chiedete un termine di notifica in ore scritto nel contratto, e prove indipendenti di sicurezza aggiornate, come una certificazione ISO/IEC 27001 o un report SOC 2 Type II.
Risposta debole: «Vi avviseremo appena possibile».
7. Possiamo provarlo sui nostri dati prima di impegnarci?
Una demo sui dati del fornitore dimostra i dati del fornitore. Chiedete un pilota a tempo su un campione dei vostri casi reali, compresi quelli difficili, con criteri di successo concordati prima.
Risposta debole: un contratto lungo con il pilota «incluso» nel primo anno.
8. Che cosa impedisce a una risposta sbagliata di arrivare a un cliente, e possiamo spegnerlo?
Ogni sistema di AI sbaglia. Conta se l’errore viene intercettato: soglie di confidenza, rimandi alla fonte, una persona che rivede tutto ciò che ha conseguenze rilevanti, e un modo per fermare il sistema subito. Per i sistemi ad alto rischio l’articolo 26 dell’AI Act chiederà al deployer di affidare la sorveglianza umana a persone competenti. Nel programma di traduzione con l’AI che ho guidato, le persone rivedevano e rifinivano il lavoro dell’AI invece di tradurre da zero. Il controllo era quella revisione.
Risposta debole: «Il modello è molto accurato».
9. Ci darete quello che serve per spiegarlo?
Se il prodotto orienta decisioni su clienti o dipendenti, dovete poter spiegare che cosa fa. Il GDPR vi chiede di informare gli interessati sulla logica delle decisioni automatizzate che li riguardano (articoli 13, 14 e 22), la legge 132/2025 chiede al datore di lavoro di informare i lavoratori dell’uso dell’AI (articolo 11), e il Garante include i sistemi di intelligenza artificiale nell’elenco dei trattamenti soggetti a valutazione d’impatto quando ricorre un altro criterio di rischio. Senza documentazione chiara del fornitore su che cosa fa il sistema, quali dati usa e dove non va usato, non potete fare nessuna di queste cose.
Risposta debole: «È proprietario».
10. Quanto costerà con due o tre volte i volumi di oggi?
I prezzi dell’AI sono spesso per utente, per messaggio o per token, e raramente restano dove li aveva messi la proposta. Chiedete al fornitore di quotare i volumi attesi, poi il doppio e il triplo. Chiedete avvisi o tetti di consumo.
Risposta debole: un prezzo per licenza con limiti di «uso corretto» che nessuno definisce.
11. Di chi sono gli output, i prompt e la configurazione?
Dovreste essere proprietari dei vostri dati, degli output e di tutto ciò che è stato configurato o adattato per voi, e il contratto deve dirlo. Per i contenuti generati che pubblicherete, chiedete se il fornitore offre una manleva sulla proprietà intellettuale e se il tetto di responsabilità riflette l’esposizione reale.
Risposta debole: la proprietà è «condivisa», o non se ne parla.
12. Come ne usciamo?
Chiedete come esportare dati e configurazione, in quale formato, e come il fornitore conferma la cancellazione alla fine: l’articolo 28 prevede già che i dati personali vengano cancellati o restituiti al termine del servizio. Verificate rinnovi automatici e durate minime.
Risposta debole: «I clienti non se ne vanno».
Come suona una buona risposta
| Domanda | La risposta che volete | Segnale d’allarme |
|---|---|---|
| 1. Risultato di business | Una misura con punto di partenza e obiettivo | Promesse di produttività senza misura |
| 2. Prove in produzione | Clienti di riferimento europei da chiamare | Solo loghi |
| 3. Addestramento sui vostri dati | No come impostazione predefinita, nel contratto | Un opt-out nascosto nelle impostazioni |
| 4. Dove vanno i dati | Regioni e sub-responsabili con un nome, trasferimenti coperti | «Nel cloud» |
| 5. Modello sottostante | Indicato, con preavviso dei cambi sostanziali | Cambiato senza avviso |
| 6. Incidenti | Notifica in ore, ISO 27001 o SOC 2 | «Appena possibile» |
| 7. Test | Pilota sui vostri dati con criteri concordati | Solo dati della demo |
| 8. Risposte sbagliate | Revisione umana per gli output rilevanti e un interruttore | «È molto accurato» |
| 9. Spiegabilità | Documentazione chiara su funzionamento e limiti | «È proprietario» |
| 10. Costo su scala | Prezzi unitari stimati su due o tre volte i volumi attuali | Limiti di «uso corretto» indefiniti |
| 11. Proprietà | Dati, output e configurazione vostri | Silenzio |
| 12. Uscita | Esportazione, cancellazione confermata, nessun rinnovo automatico | Durate minime lunghe |
Le domande 3, 4, 6, 8 e 11 sono quelle che tratterei come vincolanti: un «no» su una qualsiasi di esse è un segnale d’allarme, per quanto bene il fornitore vada sul resto. Per questo la scorecard le segna come critiche.
Quanta due diligence serve a un’azienda del mid-market?
Va commisurata al rischio. Un assistente di scrittura che non vede dati dei clienti richiede risposte scritte alle domande 3, 4 e 10 e una breve prova. Uno strumento che risponde ai clienti, seleziona candidati o decide chi ottiene uno sconto richiede tutte e 12, un pilota, una valutazione d’impatto e un legale sul contratto.
Tre abitudini funzionano qualunque sia la dimensione dell’acquisto:
- Ogni risposta per iscritto. Una call commerciale non è un impegno. Mandate le domande in un documento e chiedete risposte scritte.
- Le risposte nel contratto. Se le condizioni standard del fornitore contraddicono ciò che vi è stato detto, prevalgono le condizioni. L’accordo ex articolo 28 è il posto naturale per molte di queste risposte.
- Ripetere le domande quando qualcosa cambia. Un fornitore esistente che attiva una funzione di AI, o che cambia provider di modelli, è un nuovo acquisto a questi fini.
In sintesi
La demo vi mostra che cosa sa fare un prodotto di AI. Queste 12 domande vi dicono se è sicuro comprarlo, se continuerà a funzionare e se si ripagherà. Fatele per iscritto, mettete le risposte nel contratto e lasciate perdere il fornitore che non si impegna sui vostri dati, sull’uscita o su un modo per intercettare i propri errori.
Se state confrontando dei fornitori, usate la scorecard gratuita di due diligence sui fornitori di AI. Sono indipendente dalle piattaforme, e aiutare i vertici aziendali a scegliere e governare l’AI fa parte del mio lavoro come Fractional Chief AI & Transformation Officer, una forma di temporary management part-time. Gli incarichi si svolgono in inglese, il che si adatta bene a filiali di multinazionali, aziende partecipate da private equity e gruppi internazionali. Se volete un parere indipendente prima di firmare, prenotate una call di 30 minuti.
Domande frequenti
Che cos’è la due diligence su un fornitore di AI?
È l’insieme delle verifiche su un prodotto di AI e sull’azienda che lo vende prima della firma. Oltre alle domande consuete sul software (sicurezza, prezzo, assistenza) riguarda che cosa succede ai vostri dati, quale modello di AI c’è sotto, come vengono intercettate le risposte sbagliate e come si esce dal contratto.
Qual è il segnale d’allarme più grave quando si acquista un software di AI?
Un fornitore che non mette per iscritto che i vostri dati non saranno usati per addestrare i suoi modelli. Subito dopo vengono il fornitore che non sa indicare il modello su cui si basa il prodotto e quello che non vi lascia provare il prodotto sui vostri dati prima di impegnarvi.
Queste domande valgono anche per le funzioni di AI del software che usiamo già?
Sì. Quando un fornitore esistente attiva una funzione di AI, come un CRM che scrive le email o un helpdesk che risponde ai clienti, fate le stesse domande prima di accenderla. Spesso i dati coinvolti e le condizioni contrattuali sono diversi da quelli del prodotto che avevate firmato.
Quanto tempo richiede la due diligence su un fornitore di AI?
Per uno strumento a basso rischio, come un assistente di scrittura che non vede dati dei clienti, bastano pochi giorni di domande scritte e una telefonata con un cliente di riferimento. Per tutto ciò che tocca dati di clienti o dipendenti, o che prende o orienta decisioni sulle persone, prevedete alcune settimane, con un pilota sui vostri dati e una revisione del contratto.
Serve un avvocato per rivedere un contratto di AI?
Per un uso ad alto rischio, sì. Queste domande vi dicono che cosa cercare, ma un legale deve verificare che le risposte ricevute siano davvero nel contratto e nell’accordo sul trattamento dei dati previsto dall’articolo 28 del GDPR, e che i limiti di responsabilità siano adeguati al rischio.
Esiste una checklist gratuita per la due diligence sui fornitori di AI?
Sì. La mia scorecard gratuita di due diligence sui fornitori di AI trasforma queste domande in un modulo che confronta fino a tre fornitori, segnala le lacune critiche e vi invia un report Word con le domande di approfondimento da mandare a ciascuno.
