1. ¿Por qué alucinan los modelos de lenguaje?
Los LLMs son motores probabilísticos de predicción de tokens. Cuando una instrucción es ambigua, los documentos de referencia están incompletos o se les pide información fuera de su entrenamiento sin aportar contexto, el modelo tiende a rellenar los vacíos lógicos con afirmaciones plausibles pero falsas. En un entorno legal o contable, una sola cita jurisprudencial inventada o una cifra errónea puede invalidar un trabajo entero.
2. Las 5 Reglas de Oro contra la Alucinación en Claude
Permiso Explícito para Declarar Ignorancia
Por defecto, los modelos intentan complacer al usuario. Si no incluyes explícitamente una instrucción de escape, inventarán una respuesta. Añade siempre a tus system prompts:
"Si la información solicitada no figura de forma inequívoca en los documentos adjuntos, responde estrictamente: 'No consta en la documentación aportada'. Bajo ninguna circunstancia intentes deducirla o suponerla."
Exigencia de Citas Textuales con Localizador
Obliga a Claude a citar entre comillas el fragmento exacto y el número de página o cláusula de donde extrae cada dato:
<restricciones> Para cada afirmación de tu análisis, indica entre corchetes la fuente exacta: [Documento: X, Cláusula: Y, Párrafo: Z]. Si no puedes señalar la cita exacta, omite el punto. </restricciones>
Cadena de Razonamiento Previa (Thinking First)
Pídele a Claude que piense y extraiga los hechos antes de redactar la conclusión final mediante etiquetas XML separadas:
<proceso> 1. En <hechos_extraidos>, lista únicamente los datos cuantitativos encontrados en el texto. 2. En <analisis>, evalúa la coherencia de dichos datos. 3. En <respuesta_final>, redacta el informe solicitado sin añadir información exterior. </proceso>
¿Quieres auditar la fiabilidad de tus prompts corporativos?
En Matrits auditamos tus prompts y proyectos de Claude para garantizar cero alucinaciones en entornos de máxima responsabilidad.
Solicitar Auditoría de Prompts