Due diligence de proveedores de IA: 12 preguntas clave

Respuesta breve: antes de firmar con un proveedor de IA, consiga por escrito la respuesta a 12 preguntas: qué resultado cambiará, si sus datos entrenan sus modelos, adónde van sus datos, qué modelo hay debajo, cómo le avisarán de un incidente, si puede probarlo con sus datos, qué detiene las respuestas erróneas, qué necesitará para explicarlo, cuánto costará con más volumen, de quién son los resultados y cómo se sale. Después, lleve las respuestas al contrato.

La mayoría de los productos de IA se compran a partir de una demo. La demo es real, pero responde a la pregunta del proveedor: ¿puede el producto hacer algo llamativo? La suya es otra: ¿es seguro poner ahí sus datos, seguirá funcionando y se pagará solo?

Estas son las preguntas que querría ver respondidas antes de que una empresa mediana firme. Si quiere comparar varios proveedores, mi scorecard gratuita de due diligence de proveedores de IA las convierte en un formulario y un informe. Este artículo explica por qué importa cada pregunta y cómo suena una respuesta débil.

Es información general, no asesoramiento jurídico.

Por qué comprar IA no es como comprar otro software

Las listas de compras se escribieron para el software tradicional. La IA añade cuatro riesgos para los que no estaban pensadas:

• Sus datos pueden convertirse en su producto. Algunos servicios de IA usan lo que usted introduce, y lo que generan, para mejorar sus modelos, salvo que usted se oponga.
• Casi siempre hay otra empresa debajo. Muchos productos se basan en el modelo de un gran proveedor, así que sus datos pueden pasar a un tercero con el que no ha firmado nada.
• El producto cambia después de la compra. Una actualización del modelo puede cambiar su comportamiento sin que cambie una línea de su configuración.
• Puede equivocarse con total seguridad. Un resultado de IA que llega a un cliente o a una decisión sin control es un riesgo que su software anterior no tenía.

En Europa estos riesgos ya tienen un marco. Cuando el proveedor trata datos personales por cuenta de su empresa es un encargado del tratamiento, y el artículo 28 del RGPD le exige elegir solo proveedores que ofrezcan garantías suficientes y regular la relación con un contrato. El Reglamento de IA distingue al proveedor del sistema de quien lo utiliza bajo su autoridad (el responsable del despliegue), que es el papel de la mayoría de las empresas medianas. He resumido el marco español en la checklist de gobernanza de la IA para el consejo.

Las 12 preguntas que hacer a un proveedor de IA antes de firmar

1. ¿Qué resultado de negocio cambiará y cómo lo mediremos?

Un proveedor que no sabe nombrar una medida, como horas por tarea, coste por transacción o tasa de error, vende actividad. Acuerde el punto de partida y el objetivo antes de firmar, para que el piloto tenga un listón que superar. Explico por qué las métricas de uso miden mal en el artículo sobre el tokenmaxxing.

Respuesta débil: «Nuestros clientes ven enormes mejoras de productividad».

2. ¿Quién lo usa en producción, en una empresa como la nuestra?

Los pilotos son fáciles. Pida clientes de referencia de tamaño y sector parecidos, a ser posible en Europa, que lo usen en producción desde hace al menos seis meses. Después llámelos y pregunte qué les sorprendió.

Respuesta débil: una diapositiva de logotipos y ningún nombre al que llamar.

3. ¿Se usarán nuestros datos, instrucciones o resultados para entrenar o mejorar algún modelo?

Es la primera pregunta que hago. Un encargado del tratamiento solo puede tratar los datos personales siguiendo instrucciones documentadas del responsable (artículo 28.3 del RGPD): usarlos para sus propios modelos es otra finalidad. Quiere un «no» por defecto, por escrito, que valga para el proveedor y para cualquier proveedor de modelos que utilice.

Respuesta débil: «Antes los anonimizamos», o un enlace a una política de privacidad que el proveedor puede cambiar cuando quiera.

4. ¿Dónde se almacenan y tratan los datos, y quién más los recibe?

Pida las regiones y la lista actualizada de subencargados, incluido el proveedor del modelo. El artículo 28 exige su autorización por escrito antes de que el proveedor recurra a otro encargado. Si los datos salen del Espacio Económico Europeo, la transferencia debe cumplir el capítulo V del RGPD, por ejemplo con una decisión de adecuación o con cláusulas contractuales tipo.

Respuesta débil: «Está todo en la nube».

5. ¿Qué modelo de IA hay debajo y nos avisarán antes de cambiarlo?

Pida el nombre del modelo y de su proveedor, el país desde el que opera y dónde residen los datos. Pida un preaviso de cualquier cambio sustancial del modelo y la posibilidad de repetir las pruebas antes de que pase a producción.

Respuesta débil: «Siempre usamos el mejor modelo disponible».

6. ¿En cuánto tiempo nos avisarán de un incidente de seguridad o de IA?

Ante una brecha de datos personales, el responsable debe notificarla a la AEPD en un plazo de 72 horas desde que tenga constancia de ella, y el encargado debe informar al responsable sin dilación indebida (artículo 33 del RGPD). Si el proveedor avisa tarde, las 72 horas no alcanzan. Pida un plazo de notificación en horas en el contrato y pruebas independientes de seguridad vigentes, como una certificación ISO/IEC 27001 o un informe SOC 2 Type II.

Respuesta débil: «Le avisaremos en cuanto sea posible».

7. ¿Podemos probarlo con nuestros datos antes de comprometernos?

Una demo con los datos del proveedor demuestra los datos del proveedor. Pida un piloto acotado en el tiempo sobre una muestra de sus casos reales, incluidos los difíciles, con criterios de éxito acordados de antemano.

Respuesta débil: un contrato largo con el piloto «incluido» en el primer año.

8. ¿Qué impide que una respuesta errónea llegue a un cliente, y podemos apagarlo?

Todo sistema de IA se equivoca. Lo que importa es si el error se detecta: umbrales de confianza, enlaces a la fuente, una persona que revise todo lo que tenga consecuencias relevantes y una forma de detener el sistema de inmediato. Para los sistemas de alto riesgo, el artículo 26 del Reglamento de IA exigirá al responsable del despliegue encomendar la supervisión humana a personas con la competencia necesaria, y la AESIA ha publicado guías prácticas sobre supervisión humana y gestión de incidentes. En el programa de traducción con IA que dirigí, las personas revisaban y pulían el trabajo de la IA en lugar de traducir desde cero. El control era esa revisión.

Respuesta débil: «El modelo es muy preciso».

9. ¿Nos darán lo necesario para explicarlo?

Si el producto orienta decisiones sobre clientes o empleados, usted debe poder explicar qué hace. El RGPD le obliga a informar a los interesados sobre la lógica de las decisiones automatizadas que les afectan (artículos 13, 14 y 22), y el Estatuto de los Trabajadores (artículo 64.4.d) da al comité de empresa derecho a conocer los parámetros, reglas e instrucciones de los algoritmos o sistemas de IA que afectan a decisiones sobre las condiciones de trabajo y el empleo. Sin una documentación clara del proveedor sobre qué hace el sistema, qué datos usa y dónde no debe usarse, no podrá cumplir ninguna de las dos cosas.

Respuesta débil: «Es información propietaria».

10. ¿Cuánto costará con dos o tres veces el volumen actual?

Los precios de la IA suelen ser por usuario, por mensaje o por token, y rara vez se quedan donde los dejó la propuesta. Pida al proveedor que cotice el volumen previsto, y luego el doble y el triple. Pida alertas o límites de consumo.

Respuesta débil: un precio por licencia con límites de «uso razonable» que nadie define.

11. ¿De quién son los resultados, las instrucciones y la configuración?

Su empresa debe ser la propietaria de sus datos, de los resultados y de todo lo configurado o ajustado para ella, y el contrato debe decirlo. Para los contenidos generados que vaya a publicar, pregunte si el proveedor ofrece una indemnidad en materia de propiedad intelectual y si el límite de responsabilidad refleja la exposición real.

Respuesta débil: la propiedad es «compartida», o no se menciona.

12. ¿Cómo salimos?

Pregunte cómo exportar datos y configuración, en qué formato y cómo confirma el proveedor el borrado al final: el artículo 28 ya prevé que los datos personales se supriman o se devuelvan al terminar el servicio. Revise las renovaciones automáticas y las permanencias mínimas.

Respuesta débil: «Nuestros clientes no se van».

Cómo suena una buena respuesta

Pregunta	La respuesta que quiere	Señal de alarma
1. Resultado de negocio	Una medida con punto de partida y objetivo	Promesas de productividad sin medida
2. Pruebas en producción	Clientes de referencia europeos a los que llamar	Solo logotipos
3. Entrenamiento con sus datos	No por defecto, en el contrato	Una exclusión escondida en la configuración
4. Adónde van los datos	Regiones y subencargados con nombre, transferencias cubiertas	«En la nube»
5. Modelo subyacente	Identificado, con preaviso de cambios sustanciales	Cambiado sin aviso
6. Incidentes	Aviso en horas, ISO 27001 o SOC 2	«En cuanto sea posible»
7. Pruebas	Piloto con sus datos y criterios acordados	Solo datos de la demo
8. Respuestas erróneas	Revisión humana de lo relevante y un botón de parada	«Es muy preciso»
9. Explicabilidad	Documentación clara sobre funcionamiento y límites	«Es propietario»
10. Coste a escala	Precios unitarios calculados con dos o tres veces el volumen actual	Límites de «uso razonable» sin definir
11. Propiedad	Datos, resultados y configuración suyos	Silencio
12. Salida	Exportación, borrado confirmado, sin renovación automática	Permanencias largas

Las preguntas 3, 4, 6, 8 y 11 son las que trataría como innegociables: un «no» en cualquiera de ellas es una señal de alarma, por bien que puntúe el proveedor en lo demás. Por eso la scorecard las marca como críticas.

¿Cuánta due diligence necesita una empresa mediana?

Debe ser proporcional al riesgo. Un asistente de redacción que no ve datos de clientes requiere respuestas por escrito a las preguntas 3, 4 y 10 y una prueba breve. Una herramienta que atiende a clientes, filtra candidatos o decide quién obtiene un descuento requiere las 12, un piloto, una evaluación de impacto y un abogado que revise el contrato.

Tres hábitos funcionan sea cual sea el tamaño de la compra:

1. Todas las respuestas por escrito. Una reunión comercial no es un compromiso. Envíe las preguntas en un documento y pida respuestas escritas.
2. Las respuestas, en el contrato. Si las condiciones estándar del proveedor contradicen lo que le dijeron, prevalecen las condiciones. El contrato de encargo del tratamiento es el lugar natural para muchas de estas respuestas.
3. Volver a preguntar cuando algo cambia. Un proveedor actual que activa una función de IA, o que cambia de proveedor de modelos, es una compra nueva a estos efectos.

En resumen

La demo le muestra lo que un producto de IA sabe hacer. Estas 12 preguntas le dicen si es seguro comprarlo, si seguirá funcionando y si se pagará solo. Hágalas por escrito, lleve las respuestas al contrato y descarte al proveedor que no se comprometa con sus datos, con la salida o con una forma de detectar sus propios errores.

Si está comparando proveedores, utilice la scorecard gratuita de due diligence de proveedores de IA. Soy independiente de las plataformas, y ayudar a los equipos directivos a elegir y gobernar la IA forma parte de mi trabajo como Fractional Chief AI & Transformation Officer, una forma de interim management a tiempo parcial. Los proyectos se desarrollan en inglés, lo que encaja bien con filiales de multinacionales, participadas de private equity y grupos internacionales. Si quiere una opinión independiente antes de firmar, reserve una llamada de 30 minutos.