El CCN publica una guía para crear ChatBots locales

con IA de forma segura

CIBERSEGURIDAD

En un mundo donde la inteligencia artificial, los ChatBots están cada vez más presente en nuestra vida diaria, desde asistentes virtuales hasta sistemas de atención al cliente automatizados, el Centro Criptológico Nacional (CCN) ha dado un paso importante publicando una guía para ayudar a crear ChatBots con inteligencia artificial de forma segura y controlada.

La nueva publicación técnica, titulada “CCN-TEC 014 – Instalación y Securización de un ChatBot con LLM de forma local”, está dirigida a administraciones públicas, empresas y profesionales que quieran desarrollar un sistema conversacional basado en modelos de lenguaje de gran tamaño (LLM), como los que están detrás de herramientas como ChatGPT, pero ejecutado de manera local (es decir, sin depender de servicios en la nube).

 ¿Qué ofrece esta guía?

El documento del CCN detalla paso a paso cómo montar un ChatBot utilizando dos herramientas clave:

• Ollama, una plataforma que permite gestionar e instalar modelos de lenguaje avanzados en tu propio equipo.

• OpenWeb UI, una interfaz gráfica intuitiva y de código abierto, que facilita la interacción con el modelo de IA y permite personalizar su comportamiento.

Con estas herramientas, cualquier organización puede tener su propio ChatBot inteligente, personalizado y adaptado a sus necesidades, funcionando de forma totalmente privada, sin enviar datos a servidores externos.

Seguridad ante todo: los riesgos de los modelos de IA

Pero la clave del informe no es solo la instalación, sino cómo hacerlo de forma segura. El CCN advierte que los modelos de IA, si no se protegen adecuadamente, pueden:

• • Filtrar información sensible,

  • Ser manipulados por usuarios maliciosos,

  • Difundir contenido falso o sesgado,

  • Consumir recursos de forma descontrolada,

  • E incluso actuar con excesiva “autonomía” más allá de su función prevista.

«Si no se protegen los modelos de IA, y los ChatBots estos pueden ser alterados y manipulados con el fin de difundir contenido engañoso o falso»

Por eso, el documento ofrece recomendaciones de ciberseguridad muy concretas, como el uso de contenedores Docker, filtros automáticos para detectar contenido inapropiado, y herramientas especializadas como Llama Guard, desarrollada por Meta, que analiza en tiempo real las entradas y salidas del ChatBot para evitar usos indebidos.

«Este documento ofrece recomendaciones para filtrar y detectar contenido inapropiado»

También se abordan conceptos como la protección frente a ataques de “inyección de prompts”, envenenamiento de datos de entrenamiento, y estrategias para reducir las llamadas “alucinaciones del modelo” (cuando la IA inventa información sin base real).

¿Para quién es útil esta guía?

Este informe está pensado especialmente para:

• Administraciones públicas que quieran desarrollar ChatBots en línea con el Esquema Nacional de Seguridad (ENS),

• Equipos técnicos que deseen montar asistentes virtuales sin comprometer la privacidad,

• Empresas interesadas en explorar la IA generativa de forma segura y controlada.

Además, todo el proceso se puede llevar a cabo con herramientas de código abierto y sin necesidad de conexión a Internet, lo que ofrece una gran ventaja en términos de soberanía tecnológica y protección de datos.

Descarga el Informe desde AQUÍ

Fuente: CCN – Centro Criptológico Nacional

En asisolution, estamos especializados en soluciones de Ciberseguridad, soluciones encaminadas a la prevención de delitos tecnológicos, Negociación y Rescate de Datos, Concienciación ,Investigaciones tecnológicas, informes periciales e informática forense, Consultoría informática e implantación del ENS, Auditoría, Protección del dato, Implementación del canal de denuncias/informante.

Enlaces de interés para el internauta