El Shadow IA (o «IA en la sombra») se refiere al uso no oficial, no autorizado o no supervisado de herramientas de inteligencia artificial generativa (como ChatGPT, Gemini, Claude o Perplexity) por parte de empleados dentro de una organización, sin que el área de TI o los responsables de seguridad lo sepan.
Los riesgos del Shadow IA en la empresa?
Lo primero es entender mejor este fenómeno, los riesgos que implica y las buenas prácticas que deberían difundirse dentro de las organizaciones. Se habla del Shadow IA como algo negativo, el uso de herramientas de IA por parte de los profesionales en su trabajo diario, sin que la empresa lo sepa y de forma no siempre segura.
Las grandes empresas ya toman el tema en serio, desarrollando programas de uso responsable de IA generativa. Pero subraya que más que imponer restricciones, es clave fomentar una verdadera cultura de la IA.
Si bien puede ser tentador usar ChatGPT, Claude, Gemini o Perplexity para tareas tediosas, el modo en que se utilizan puede exponer a las empresas a riesgos graves.
Los riesgos de ciberseguridad
Cuando se introducen datos en una IA, no siempre está claro a dónde van ni cómo se usan. Gouritin recuerda múltiples casos donde información confidencial fue reutilizada para entrenar modelos de lenguaje. Algunos de estos sistemas pueden funcionar como caballos de Troya diseñados con fines maliciosos: Hoy es fácil crear interfaces que imitan a ChatGPT y recolectan datos sin que lo notemos.
Riesgos de confidencialidad
Herramientas de IA cada vez más sofisticadas permiten automatizar tareas complejas. Pero esto puede ser problemático: Imaginen una IA que entra a tu Google Drive, lee un archivo llamado “Estrategia.pdf’ y lo resume en 10 puntos. ¿Crees que tu empresa estaría de acuerdo con esto?.
Riesgos de alucinaciones
Las alucinaciones son respuestas falsas o inventadas generadas por la IA, presentadas como verídicas. Esto ha llevado a errores como cálculos mal hechos o datos extraídos incorrectamente de documentos. En Estados Unidos, por ejemplo, unos abogados presentaron jurisprudencias generadas por ChatGPT… ¡que no existían! Fueron reprendidos por el juez en plena audiencia.»
Buenas prácticas para evitar el Shadow IA en la empresa
Usar herramientas validadas por el área de TI
No basta con no compartir datos sensibles. Lo ideal es trabajar con soluciones desarrolladas internamente o por proveedores de confianza, previamente aprobadas por el área de sistemas, para asegurar confidencialidad y calidad de las respuestas.
Identificar y difundir buenas prácticas internas
Las prácticas útiles ya empleadas por algunos empleados son un recurso subutilizado. Se sugiere identificarlas y compartirlas entre equipos, de forma segura, para reducir errores y mejorar resultados.
Redactar una carta de principios sobre IA junto con el equipo
No basta con imponer una política que nadie lee. Tenemos que involucrar a los empleados mediante talleres donde exploran límites y errores reales.
Esta co-creación garantiza que las reglas no se perciban como imposiciones vacías, sino como una guía práctica surgida de la experiencia de los propios colaboradores.
El Shadow IA tiene un doble rostro: plantea amenazas importantes, pero también puede ser una vía hacia mejoras de productividad y eficiencia. La clave está en acompañar, formar y encuadrar su uso de forma consciente y colaborativa. El verdadero reto está en encontrar el equilibrio entre aprovechar las oportunidades y cuidar cómo usamos estas herramientas.
Jean-Luc Lenoble
https://www.linkedin.com/in/jeanluclenoble
