Cyberzaintza, la Agencia Vasca de Ciberseguridad, ha publicado la “Guía para el uso seguro de la Inteligencia Artificial”, un documento práctico que establece criterios y medidas para incorporar esta tecnología de manera segura tanto desde una perspectiva tanto individual como organizativa.
La Inteligencia Artificial se ha integrado rápidamente en actividades cotidianas y profesionales. Forma ya parte de dispositivos que se utilizan de manera general y el número de nuevas herramientas o aplicaciones basadas en modelos de IA que emergen se ha multiplicado rápidamente en el último año. Así, generar textos e imágenes, resumir documentación, desarrollar código, analizar grandes cantidades de información o apoyar procesos de toma de decisiones en sus respuestas son algunos de sus usos habituales. Estas capacidades ofrecen oportunidades para mejorar la productividad, la accesibilidad y la innovación, pero también incorporan riesgos que deben conocerse y gestionarse por las personas usuarias.
Entre ellos se encuentran la introducción de datos personales o información confidencial en herramientas no autorizadas, la generación de respuestas incorrectas o inventadas, los sesgos, la pérdida de control sobre la información, la utilización de contenidos protegidos por derechos de terceros o la integración insegura de soluciones de IA en sistemas corporativos
La guía parte de una premisa: el objetivo no es frenar la adopción de la IA, sino acompañar en su uso bajo criterios claros de seguridad y responsabilidad. Para ello, ofrece pautas para mostrar qué precauciones deben adoptarse, cómo valorar si un uso es adecuado y qué mecanismos pueden establecer las organizaciones para mantener su utilización bajo control. Javier Diéguez, Director de Cyberzaintza, ha destacado que “la Inteligencia Artificial ofrece enormes posibilidades, pero aprovecharlas de forma responsable exige incorporar la seguridad desde el principio. No se trata de impedir su utilización, sino de conocer qué información podemos compartir, qué herramientas utilizamos, qué riesgos asumimos y quién debe validar los resultados. La supervisión humana y unas reglas claras son esenciales para utilizar la IA con confianza.”
La guía plantea la seguridad de la Inteligencia Artificial como un proceso continuo, en el que las medidas organizativas, técnicas y formativas deben funcionar conjuntamente. Y este proceso implica plantearse de antemano algunas cuestiones.
En primer lugar, es necesario pensar previamente en aquellos datos que se van a compartir para adoptar rutinas de prevención y control, desde la propia configuración de aplicaciones o dispositivos. En el caso de las organizaciones, se recomienda disponer de una política interna que regule las soluciones autorizadas o las personas responsables de su supervisión. Y, siempre que sea posible, utilizar documentación anonimizada o pública. Subir las nóminas, contratos laborales o documentos jurídicos personales en su formato original a asistentes de IA conversacional para resolver dudas son algunos ejemplos de uso frecuente que conviene evitar.
Otra cuestión es el uso que se le va a dar a la IA, ya que conviene inventariar y conocer mejor qué herramientas se encuentran conectadas a modelos de inteligencia artificial en los distintos dispositivos. Y, unido a esto, es recomendable analizar los riesgos que se asumen a través de los datos personales que se comparten. El objetivo no es realizar una vigilancia indiscriminada, sino disponer de controles y de trazabilidad necesarios para gestionar adecuadamente la seguridad.
La IA es una ayuda, no una fuente automática de verdad
La IA no es infalible y la propia tecnología puede generar errores, información inventada, sesgos, referencias inexistentes o conclusiones no justificadas, por lo que sus resultados no deben asumirse automáticamente como correctos. Precisamente, uno de los mensajes centrales de Cyberzaintza a través de su guía es la necesidad de mantener la supervisión humana. Los contenidos generados por Inteligencia Artificial deben tratarse como borradores, recomendaciones o elementos de apoyo y revisarse antes de incorporarlos a documentos, comunicaciones, decisiones o sistemas. Esta comprobación resulta especialmente importante cuando se trabaja con información jurídica, técnica, médica, financiera o relacionada con la seguridad. Requiere contrastar sus respuestas con fuentes fiables, solicitar explicaciones verificables y tener presente que un resultado puede parecer convincente y ser, sin embargo, incorrecto.
Cyberzaintza plantea un enfoque equilibrado: ni prohibir su utilización de manera general ni permitirla sin límites. Para las organizaciones, esto implica contar con políticas de uso, conocer las herramientas desplegadas, analizar los riesgos, establecer controles y formar a las personas usuarias.
La “Guía para el uso seguro de la Inteligencia Artificial” puede consultarse y descargarse en la web de Cyberzaintza.