El sombra IAo "IA en la sombra" o "IA clandestina", es una forma específica de shadow IT aplicada al campo de la inteligencia artificial.
La AI en la sombra se refiere a el uso y despliegue de tecnologías de inteligencia artificial dentro de una organización sin el conocimiento, la aprobación o la supervisión de los departamentos de TI o de los órganos formales de gestión.
¿Por qué existe la IA en la sombra?
Varios factores están contribuyendo a la aparición de la IA en la sombra:
- Fácil acceso a las herramientas de IA : El mercado actual está repleto de plataformas de IA en modo SaaS (software como servicio), bibliotecas de código de fuente abierta y API (interfaces de programación de aplicaciones) de IA, que suelen ser muy intuitivas y accesibles incluso para quienes no son especialistas en TI. Se ha convertido en algo extremadamente sencillo para un usuario empresarial darse de alta en un servicio de IA en línea, utilizar un chatbot o integrar funciones de análisis predictivo en una hoja de cálculo, sin necesidad de profundos conocimientos técnicos ni de respaldo informático.
- Necesidad de agilidad e innovación rápida: En un entorno empresarial cada vez más competitivo, los equipos empresariales están sometidos a una presión constante para innovar con rapidez, mejorar la eficiencia y satisfacer las necesidades específicas de sus departamentos. La IA se considera una poderosa palanca para alcanzar estos objetivos. Enfrentados a procesos de aprobación de TI que a veces se consideran largos o complejos, los equipos pueden verse tentados a saltarse los canales formales para desplegar soluciones de IA de forma más rápida y directa, con el fin de ganar mayor autonomía y capacidad de respuesta.
- Ignorancia o falta de comprensión por parte de los informáticos: A veces, el propio departamento de TI aún no está totalmente familiarizado con las tecnologías de IA, o todavía no ha establecido políticas y procedimientos claros para regular su uso. Esto puede crear un vacío, animando a los equipos de negocio a tomar la iniciativa y experimentar con la IA por su cuenta, sin sentirse necesariamente supervisados o frenados por TI.
- Presión para resolver problemas empresariales concretos: Los equipos empresariales se enfrentan a menudo a retos muy específicos y urgentes que pueden parecer secundarios o menos prioritarios para el departamento de TI, que tiene una visión más global de los retos de la empresa. La IA puede parecer la solución ideal para abordar estos problemas específicos con rapidez, y los equipos pueden verse tentados a implantar soluciones de IA "a escondidas" para demostrar su valor y lograr resultados concretos rápidamente.
Ventajas e inconvenientes de la IA en la sombra
La IA en la sombra no es intrínsecamente buena o mala. Tiene beneficios potenciales, pero también riesgos significativos.
✔ Beneficios
- Innovación y mayor agilidad : La IA en la sombra puede fomentar la experimentación, la innovación rápida y el descubrimiento de nuevas aplicaciones de IA dentro de la empresa, al permitir a los equipos empresariales probar soluciones sin obstáculos burocráticos.
- Respuesta rápida a necesidades empresariales específicas: Permite resolver problemas empresariales concretos y urgentes con mayor rapidez y flexibilidad, adaptando la IA a las necesidades específicas de cada departamento.
- Descubrir talentos e ideas innovadoras: La IA en la sombra puede revelar empleados con talento y creatividad que tienen ideas innovadoras para utilizar la IA y que quizá no hayan tenido la oportunidad de expresarse en un entorno más formal.
❌ Desventajas y principales riesgos
- Riesgos para la seguridad y el cumplimiento : el uso de herramientas de IA que no estén aprobadas y supervisadas por TI puede dar lugar a brechas de seguridad, violaciones de la confidencialidad y vulneraciones de la confidencialidad. datos sensiblesy el incumplimiento de la normativa (RGPDetc.). Los datos utilizados por la IA en la sombra pueden no estar debidamente protegidos, las herramientas empleadas pueden ser vulnerables y los procesos puestos en marcha pueden no cumplir las normas de seguridad y cumplimiento de la empresa.
- Falta de control y gobernanza : la falta de supervisión centralizada dificulta el control del uso de la IA, la gestión de los riesgos y la coordinación de las iniciativas. Esto puede dar lugar a una proliferación de soluciones de IA no coherentes, no integradas y potencialmente redundantes o contradictorias.
- Problemas de integración y compatibilidad : Las soluciones de IA en la sombra, desarrolladas de forma aislada, pueden ser difíciles de integrar con los sistemas de información existentes en una empresa, lo que puede limitar su eficacia y crear silos de datos e información.
- Gastos innecesarios y despilfarro de recursos: La falta de coordinación puede dar lugar a duplicaciones, compras innecesarias de licencias de software y despilfarro de recursos financieros y humanos.
- Riesgos éticos y sesgo algorítmica : Sin una supervisión adecuada, las soluciones de IA en la sombra pueden incorporar involuntariamente sesgos algorítmicos, dar lugar a decisiones injustas o discriminatorias y plantear importantes cuestiones éticas.
💡 Soluciones para empresas y departamentos informáticos
La IA en la sombra plantea un reto importante a las empresas y los departamentos de TI. Pone de manifiesto la necesidad de adaptar y modernizar los enfoques de gobernanza de las TI y de encontrar un equilibrio entre innovación y control.
Para los departamentos de TI, es crucial :
- Tomar conciencia de la existencia de la IA en la sombra : reconocer que la AI en la sombra es una realidad creciente y no ignorarla.
- Comprender las motivaciones de la IA en la sombra : Analizar por qué los equipos empresariales utilizan la Shadow IA, y cuáles son sus necesidades, frustraciones y expectativas con respecto a TI.
- Establecer una gobernanza clara y ágil de la IA: definir políticas y procedimientos claros que rijan el uso de la IA, fomentando al mismo tiempo la innovación y la experimentación. El objetivo no es prohibir la IA en la sombra, sino canalizarla y hacerla más segura y controlada.
- Proponer alternativas y soluciones : ofrecer a los equipos empresariales plataformas, herramientas y servicios de IA aprobados y seguros que satisfagan sus necesidades y sean fáciles de usar.
- Educar y sensibilizar : Formar a los empleados en los riesgos y buenas prácticas asociados al uso de la IA, y concienciarlos de la importancia de la gobernanza de la IA.
- Trabajar con equipos empresariales: Establecer un diálogo abierto y constructivo con los equipos empresariales, para comprender sus necesidades, apoyarles en sus proyectos de IA y construir juntos un enfoque de la IA que sea responsable y beneficioso para la empresa.
📊 Cifras y estadísticas
En Francia
- Uso informal de herramientas de IA
Según un estudio de IFOP-Talan (2023) citado por varios medios de comunicación, alrededor de 16 % de los franceses utilizan IA GenerativaY 68 % de ellos no informan a sus superiores. Un artículo de LeMagIT informa de que el 68 % de los empleados franceses utilizan aplicaciones de IA generativa (como ChatGPT) fuera del marco autorizado por su empresa, una clara ilustración del fenómeno "Shadow GPT". - Adopción por tamaño de empresa
Según un estudio de BPI France-Le Lab (marzo de 2024):- 28 % de las grandes PYME (100-249 ETC) utilizan estas herramientas,
- 20 % de las PYME,
- 15 % de VSEs
🌍 En todo el mundo
- Uso no autorizado en Estados Unidos
Un estudio de Ipsos para Reuters reveló que, en Estados Unidos, 28 % de los empleados encuestados utilizan regularmente ChatGPT, mientras que sólo 22 % tienen autorización oficial para este tipo de uso. - Adopción mundial y un mercado en crecimiento
Mientras que el fenómeno de la IA en la sombra se manifiesta en varios países, el mercado mundial de la IA generativa está creciendo rápidamente (se estima en 454.000 millones de dólares en 2023 con un crecimiento anual de alrededor del 19 %). Este contexto está animando a muchos empleados a adoptar estas herramientas de forma no supervisada para ganar en productividad, aunque ello conlleve riesgos (seguridad de los datos, cumplimiento del RGPD, etc.).
