Lección
Cuando la IA miente con total seguridad
Una IA suena igual de convincente cuando acierta que cuando se lo inventa. Entrena el ojo para distinguirlo.
El mayor peligro de la IA no es que falle: es que falla con total seguridad, con el mismo tono fluido y convincente que cuando acierta. A eso lo llamamos .
Pon a prueba tu ojo. ¿Cuáles de estas afirmaciones son reales y cuáles se las ha inventado un modelo?
La Torre Eiffel mide unos 330 metros y se inauguró en 1889.
En su novela 'El jardín de cristal', Gabriel García Márquez ganó el Nobel en 1982.
Según Smith et al. (2021), el 73,4% de los modelos mejora con RAG (DOI: 10.1234/abcd.5678).
Python es un lenguaje interpretado y de tipado dinámico.
Las pistas se repiten: citas y DOIs inventados, cifras demasiado exactas, datos reales mezclados con detalles falsos. Ante cualquier dato verificable, verifícalo.
El prompt también ayuda
Buena parte de las alucinaciones nacen de preguntas vagas. Compara la misma consulta con dos prompts:
Prompt
Háblame de los beneficios del té verde.
Respuesta
Sin pedir fuentes ni cautela, el modelo rellena con afirmaciones rotundas (y exageradas).
No elimina el riesgo, pero un prompt que pide matices, fuentes y que admita lo que no sabe alucina mucho menos. Y cuando lo que necesitas es que responda sobre tus datos, la otra mitad del arreglo es dárselos: qué es RAG y por qué importa.
Por dónde seguir
Aprender
Entiende la IA tocándola
Un itinerario en orden, de los tokens a medir un sistema. Gratis, sin cuenta, y el progreso se guarda en tu navegador.
▸ Ver el itinerarioAplicarlo
¿Tienes un proceso que se come las horas?
Leer correos, sacar datos de documentos, tareas que alguien repite a mano cada día. Cuéntame cuál es y te digo qué haría yo — a veces la respuesta es que la IA no ayuda.
▸ Contarme tu casoEscribirme
O simplemente responde
Si algo de aquí te ha servido, o te ha parecido mal, quiero saberlo. Lo leo yo y cambia lo que publico.
▸ info@ianexora.com