Qué es un modelo de lenguaje

Los asistentes de inteligencia artificial llegaron a los equipos de seguridad más rápido que casi cualquier otra herramienta. Para usarlos bien, y para defenderse de quienes los usan mal, conviene entender qué son por dentro. No hace falta ninguna fórmula: basta con una buena imagen mental.

Un autocompletado muy entrenado

Un modelo de lenguaje grande, o LLM por sus siglas en inglés (Large Language Model), es un programa que hace una sola cosa: predecir qué texto viene a continuación. Cuando el teclado del celular le sugiere la siguiente palabra, usted ve la misma idea en miniatura. La diferencia es de escala: un LLM aprendió de una cantidad enorme de texto y puede continuar párrafos enteros, código o tablas.

La consecuencia es importante: el modelo no "busca" la respuesta en una base de datos ni "razona" como una persona. Genera la continuación más probable según su entrenamiento y lo que usted le escribió. Muchas veces acierta. Otras veces suena igual de convincente y está equivocado.

▶ Reproducir◀▶3/7

Elige uno de los más probables y lo pega al final del texto.

Breve historia: de ELIZA a los asistentes conectados

Año	Hito
1950	Alan Turing propone el "juego de la imitación": ¿puede una máquina conversar como una persona?
1966	Joseph Weizenbaum crea ELIZA en el MIT, un programa que imitaba a un terapeuta con reglas fijas.
2017	Investigadores de Google publican Attention Is All You Need, que presenta la arquitectura transformer, base de los LLM actuales.
2018	Aparecen los primeros grandes modelos preentrenados, como GPT de OpenAI y BERT de Google.
2022	En noviembre se lanza ChatGPT y los asistentes de chat llegan al público general.
2023	OWASP publica la primera versión de su Top 10 para aplicaciones LLM.
2024 en adelante	Los asistentes se conectan a correo, archivos y sistemas internos: se popularizan los agentes.

Cómo aprende: el entrenamiento

1. Preentrenamiento. El modelo lee miles de millones de páginas: libros, sitios web, documentación técnica, foros. Su ejercicio es adivinar la siguiente pieza de texto y corregirse cuando falla. Así absorbe datos y estilos, pero también errores y sesgos.
2. Ajuste. Después, personas y procesos automáticos le enseñan a comportarse como asistente: seguir instrucciones, responder con orden y negarse a ciertas peticiones peligrosas.

El resultado tiene una fecha de corte: lo que pasó después, el modelo no lo sabe, salvo que la herramienta le permita consultar fuentes externas. Si pregunta por una vulnerabilidad publicada ayer, puede inventar detalles con total seguridad.

Qué hace bien y qué hace mal

Suele hacer bien	Suele fallar en
Resumir textos largos, como un hilo de correos o un informe de amenazas	Datos exactos y recientes: versiones, fechas, números de CVE
Explicar en lenguaje claro un log, un comando o un fragmento de código	Cálculos y conteos largos sin ayuda de herramientas
Proponer un primer borrador de consulta, script o informe	Admitir que no sabe algo
Traducir y reformular para audiencias distintas	Distinguir una instrucción suya de un texto que solo debía analizar

El último punto será clave en el módulo 3.

Por qué importa en ciberseguridad

La IA toca el trabajo del defensor desde tres lados:

1. Como herramienta. Analistas de SOC, cazadores de amenazas y equipos de respuesta a incidentes la usan para resumir, explicar y redactar borradores.
2. Como sistema que hay que proteger. Las empresas conectan modelos a sus datos y procesos; cada conexión es una superficie de ataque nueva.
3. Como arma del adversario. Los delincuentes la usan para escribir phishing sin faltas o clonar la voz de un gerente.

Quien no entiende un LLM tiende a confiar de más en él o a prohibirlo sin matices: ambos errores cuestan caro.

Dónde se usa hoy

Lugar	Ejemplo
Chats de uso general	Un empleado pide resumir un contrato o mejorar un correo.
Herramientas de seguridad	El SIEM o el EDR traen un asistente que resume alertas.
Suites de oficina	El correo o el procesador de texto sugieren respuestas y resúmenes.
Atención al cliente	Un chatbot responde preguntas en el sitio web de la empresa.

Conceptos clave

Concepto	Qué significa
LLM	Modelo de lenguaje grande: programa que predice el texto que sigue.
Prompt	El texto que usted le escribe al modelo: pregunta, instrucciones y datos.
Prompt de sistema	Instrucciones ocultas que la aplicación le da al modelo antes de su mensaje.
Token	Fragmento de texto con el que trabaja el modelo; lo verá en la próxima lección.
Ventana de contexto	Todo el texto que el modelo puede considerar a la vez.
Alucinación	Respuesta segura y bien escrita, pero falsa o sin respaldo.
Agente	Asistente que además puede actuar: enviar correos, crear tickets o ejecutar código.

La regla de oro del curso

A lo largo del curso verá una idea repetida: la IA propone, la persona decide. El asistente es un colega rápido y muy leído, pero sin responsabilidad legal ni el contexto de su empresa. Usted conserva el criterio, la verificación y la firma.