CCN: Guía para Chatbots Seguros con IA Local

El Centro Criptológico Nacional (CCN) ha publicado una guía detallada sobre la instalación segura de chatbots que utilizan Modelos de Lenguaje de Gran Tamaño (LLM) de forma local. El documento, editado en marzo de 2025, tiene como objetivo proporcionar instrucciones y recomendaciones para mitigar los riesgos de seguridad asociados con la implementación de estas tecnologías, que han transformado la interacción con la inteligencia artificial. La guía aborda aspectos críticos como la inyección de prompts, la divulgación de información sensible, vulnerabilidades en la cadena de suministro, y la gestión inadecuada de resultados, entre otros. El CCN, responsable de la seguridad de las Tecnologías de la Información y la Comunicación en el sector público español, enfatiza la importancia de seguir las recomendaciones para evitar consecuencias no deseadas, como la propagación de información falsa o sesgos algorítmicos. La publicación se realiza bajo una limitación de responsabilidad, eximiendo al CCN de cualquier daño derivado de su uso. El documento se complementa con un glosario de términos y se dirige a profesionales y administradores encargados de la implementación y gestión de sistemas de inteligencia artificial.