Los riesgos reales de la IA en la industria, y por qué lo local los reduce

La inteligencia artificial se vende por sus beneficios: tiempo ganado, historiales por fin explotables, decisiones mejor preparadas. Esos beneficios son reales.

Pero un director de planta no compra una promesa, evalúa un riesgo. Y en ese terreno, el discurso comercial se vuelve de pronto muy discreto.

Los riesgos de una IA en un entorno industrial existen, son precisos, y la mayoría no vienen de la tecnología en sí misma: vienen de la forma en que se despliega, y sobre todo del lugar donde termina el dato.

Estos son los nueve riesgos reales, lo que cada uno produce en la práctica, y cuál se reduce si se conserva el control sobre el dato.

La tabla se desplaza horizontalmente en pantallas pequeñas.

El dato que se escapa: ¿el riesgo más subestimado?

Es el primero, y el más subestimado. La mayoría de los servicios de IA de consumo masivo tratan los datos enviándolos a los servidores de un proveedor.

Para redactar un correo, sin consecuencia. Para un sitio industrial, es una transferencia de materia sensible fuera de sus muros.

Lo que sale no es anodino, y cambia de naturaleza según el oficio:

• En química y petroquímica, un informe de inspección contiene los espesores, los bucles de corrosión y los mecanismos de degradación: el mapa de los puntos débiles del parque de equipos.
• En alimentación, una secuencia de limpieza in situ pertenece tanto al saber hacer como a la seguridad sanitaria.
• En farmacéutica, un parámetro de proceso calificado afecta a lo más regulado de la planta.

Agregada, esta información describe su herramienta de producción mejor de lo que podría hacerlo un competidor.

Y el riesgo no desaparece con una simple prohibición. Donde el departamento de informática bloquea las herramientas de nube, un técnico copia un extracto de informe desde su teléfono, convencido de que gana tiempo.

Esto es el shadow AI: la IA que entra por la puerta trasera, sin control, llevándose precisamente los datos que se querían proteger. De dónde vienen estas fugas y cómo regularlas se trata en las fugas de datos por la IA vienen de sus equipos y de sus contratistas.

El error invisible: ¿por qué es tan peligroso?

Una IA generativa puede producir una respuesta falsa con el mismo aplomo que una respuesta correcta. Se le llama alucinación.

En una conversación ordinaria, no tiene gravedad. En un dato técnico, es una bomba de tiempo.

Imagine un asistente que, al resumir un informe, entrega un espesor residual ligeramente distinto del medido, o vincula un hallazgo a la referencia equivocada de un equipo. Nadie se da cuenta: la salida es limpia y plausible.

El valor falso entra entonces en un historial, sirve de base a un cálculo de velocidad de corrosión, y después a un plazo de reinspección. El error no se ve cuando se comete: se ve, eventualmente, el día en que el equipo se controla más tarde de lo que debería haberse controlado.

Por eso la frontera entre lo que una IA prepara y lo que decide no es una precaución de principio: es la protección contra el error invisible. Una IA que no muestra de dónde viene cada información no puede servir para decidir, porque no se puede verificar lo que no se puede rastrear.

La dependencia del proveedor: ¿qué le queda si se va?

Una herramienta alquilada en la nube nunca es del todo suya. El proveedor puede cambiar sus condiciones, subir sus precios, modificar su modelo, restringir un uso, o desaparecer.

El día en que eso ocurre, usted descubre lo que vale realmente su autonomía: un flujo de trabajo construido alrededor de un servicio que no controla se detiene junto con él.

Este riesgo tiene un nombre que conocen bien los responsables que han vivido una migración forzada de GMAO: el bloqueo del proveedor (vendor lock-in). Sus datos, su historial, sus automatismos terminan encerrados en un formato del que salir cuesta caro.

La pregunta que hay que hacerse antes de empezar no es solo «¿funciona?», sino «¿qué sigue siendo mío si el proveedor se va?». Es una de las preguntas que debe resolver un caso de negocio serio.

La seguridad de las redes: ¿una puerta más abierta?

Toda conexión nueva entre su sistema de información y el exterior es una puerta más. Una herramienta de IA en la nube mal integrada puede convertirse en un puente entre su informática de oficina y su red industrial, precisamente donde la regla es segmentar.

La separación entre la informática de gestión y la informática de producción no es un capricho de especialista: es lo que impide que un incidente en un equipo de oficina llegue a alcanzar un autómata de línea.

El riesgo no es teórico para los sitios donde la disponibilidad y la seguridad son prioritarias. Añadir IA sin preguntarse por dónde pasan los flujos, y a qué accede la herramienta, equivale a perforar un tabique sin mirar qué hay al otro lado.

El exceso de confianza: ¿el riesgo humano más costoso?

Este es más discreto, y a menudo el más costoso. Una herramienta que da respuestas fluidas inspira confianza, y esa confianza se transforma rápido en el hábito de dejar de verificar.

El día en que la herramienta se equivoca, el error pasa desapercibido, porque ya nadie lo controla de verdad.

En mantenimiento e inspección, la firma compromete una responsabilidad que no se delega a una máquina. Una herramienta que pretende decidir sola no hace ganar tiempo: traslada hacia quien firma una responsabilidad que ya no tiene los medios para asumir.

La buena práctica invierte la lógica: la IA prepara, propone, señala; el humano conserva la decisión y la verificación.

El incumplimiento normativo: ¿está usted preparado para un control?

El marco se estrecha. Dos textos estructuran ahora el uso:

• El reglamento europeo sobre la IA (AI Act) clasifica los usos según su nivel de riesgo e impone, para los más sensibles, documentación, supervisión humana y robustez.
• El RGPD se aplica en cuanto un dato personal entra en el perímetro, el nombre de un operador en un acta, por ejemplo.

Desplegar una herramienta sin saber por dónde pasan los datos, ni quién decide, es exponerse a no poder responder el día en que se plantee la pregunta.

Estos textos se citan por su objeto, nunca por un número de artículo o un umbral que no se haya verificado: una obligación inventada resta credibilidad tanto como un dato falso.

El proyecto que nunca nace: ¿por qué fracasan la mayoría?

Existe un riesgo del que se habla poco porque no es espectacular: el del proyecto que nunca produce nada. En la industria, la mayoría de las iniciativas de IA no fracasan por la tecnología, sino por la implementación.

El guion es conocido, y se desarrolla siempre de la misma manera:

1. Se elige una herramienta a partir de una demostración favorecedora, sin partir de una necesidad de negocio precisa.
2. Se descubre que los datos buscados están dispersos, mal registrados, a veces encerrados en la hoja de cálculo de un técnico que ya se ha jubilado.
3. Los equipos de campo, no involucrados, ven llegar una herramienta más que se les impone, y no la usan.
4. Meses después, el piloto se entierra, con una conclusión falsa: «la IA no funciona en nuestro caso».

No es la IA la que no ha funcionado, es el proyecto el que se lanzó al revés.

Este riesgo se previene de entrada: partir de una tarea real que cuesta tiempo, verificar que los datos existen y son explotables, involucrar a quienes usarán la herramienta, y desplegar a pequeña escala antes de generalizar. Ese es todo el propósito de la gestión del cambio de un proyecto de IA y de un primer despliegue llevado a cabo en noventa días.

La caja negra: ¿se puede auditar la decisión?

Un último riesgo, más insidioso: el de una herramienta que produce conclusiones sin que se pueda explicar cómo llega a ellas. En la industria, una decisión se justifica.

Ante un auditor, ante una dirección, ante una autoridad, hay que poder decir por qué tal equipo se mantuvo en servicio, sobre qué datos, según qué razonamiento.

Un modelo que responde sin mostrar sus fuentes convierte cada resultado en una apuesta. Si nadie puede remontar de la conclusión a la medición de origen, la herramienta no es auditable, y lo que no es auditable no tiene lugar en una cadena de decisión donde la trazabilidad es la regla.

El riesgo no es solo equivocarse: es no poder demostrar que se tenía razón. Una IA útil en la industria es una IA de la que se puede verificar cada afirmación, no un oráculo al que se le cree bajo palabra.

El costo que se dispara: ¿nube o local?

Un servicio en la nube se factura por uso, y esa factura tiene la desagradable tendencia a crecer con la adopción. Lo que parecía módico en un piloto se convierte en una línea presupuestaria importante una vez que la herramienta se despliega a escala del sitio: cada documento tratado, cada consulta, se suma al contador.

El costo real de una herramienta no se lee en su tarifa de entrada, sino en lo que costará el día en que se use de verdad.

A la inversa, un despliegue local concentra la inversión al principio, en el hardware y la puesta en marcha, y luego se estabiliza. Ni uno ni otro es gratis, y pretender lo contrario sería deshonesto.

Pero la estructura de costos no es la misma, y un caso de negocio serio debe comparar no dos tarifas de entrada, sino dos trayectorias en el tiempo. El riesgo, aquí, no es pagar: es pagar sin haberlo anticipado.

La raíz común, y la respuesta

Retome estos riesgos. La mayoría (la fuga, la dependencia, el fallo de seguridad, la caja negra, una parte del incumplimiento normativo, e incluso el error invisible cuando no se puede rastrear la fuente) se reducen al mismo punto: el dato y el modelo están fuera de su control.

Esto explica por qué la respuesta no es añadir una capa de precaución después, sino cambiar la arquitectura.

Una herramienta a medida, entrenada y desplegada en local, sin nube, mantiene el dato en el sitio, no depende de ningún servicio externo, y permite rastrear lo que produce. No reduce el riesgo a cero (ninguna herramienta lo hace), pero elimina los que vienen de haber confiado lo esencial a un tercero.

Es precisamente la lógica de una IA responsable pensada desde su diseño: los riesgos no se corrigen, se conciben desde el principio.

Un director de planta no busca la herramienta más impresionante en una demostración, sino aquella de la que podrá responder dentro de seis meses, ante un auditor como ante su dirección. Esa herramienta no se remedia al final del proyecto: se decide al principio, en la elección del lugar donde viven sus datos y de quién, al final de cuentas, conserva su control.