Kata IvanovychCuando la IA miente con total seguridad
La respuesta corta
Una IA suena igual de convincente cuando acierta que cuando se lo inventa, así que el tono no sirve para distinguirlo. Lo que sirve es cazar las pistas que se repiten, comprobar cualquier dato verificable y pedir matices y fuentes en el prompt: el riesgo baja, aunque no desaparece.
Lo que te llevas
- Las pistas de un dato inventado: citas y referencias con pinta de relleno, cifras demasiado exactas y datos reales mezclados con detalles falsos.
- Ante cualquier dato que se pueda comprobar, compruébalo: que suene convincente no dice nada sobre si es cierto.
- En el prompt, pide matices, fuentes, que admita lo que no sabe y que distinga lo respaldado de lo no concluyente.
El mayor peligro de la IA no es que falle: es que falla con total seguridad, con el mismo tono fluido y convincente que cuando acierta. A eso se le llama .
Pon a prueba tu ojo. ¿Cuáles de estas afirmaciones son reales y cuáles se las ha inventado un modelo?
La Torre Eiffel mide unos 330 metros y se inauguró en 1889.
En su novela 'El jardín de cristal', Gabriel García Márquez ganó el Nobel en 1982.
Según Smith et al. (2021), el 73,4% de los modelos mejora con RAG (DOI: 10.1234/abcd.5678).
Python es un lenguaje interpretado y de tipado dinámico.
Las pistas se repiten: citas y DOIs inventados, cifras demasiado exactas, datos reales mezclados con detalles falsos. Ante cualquier dato verificable, verifícalo.
El prompt también ayuda
Buena parte de las alucinaciones nacen de preguntas vagas. Compara la misma consulta con dos prompts:
Prompt
Háblame de los beneficios del té verde.
Respuesta
Sin pedir fuentes ni cautela, el modelo rellena con afirmaciones rotundas (y exageradas).
No elimina el riesgo, pero un prompt que pide matices, fuentes y que admita lo que no sabe alucina mucho menos. Y cuando lo que necesitas es que responda sobre tus datos, la otra mitad del arreglo es dárselos: qué es RAG y por qué importa.
Para seguir con esto, una guía de NBI: Automatización, RPA o agente de IA: cuál te hace falta
Por dónde seguir
Aprender
Entiende la IA tocándola
Un itinerario en orden, de los tokens a medir un sistema. Gratis, sin cuenta, y el progreso se guarda en tu navegador.
Ver el itinerarioSeguir leyendo
Más lecturas
Guías, reflexiones y casos, con sus números y con lo que falló.
Ver todas las lecturasEscribirme
O simplemente responde
Si algo de aquí te ha servido, o te ha parecido mal, quiero saberlo. Lo leo yo y cambia lo que publico.
info@ianexora.com
La newsletter
Lo importante de la semana, en tu correo
Te escribo con lo importante de la semana: un sistema que he puesto en marcha, con sus números y lo que se rompió, o algo que ha pasado en la IA y qué te cambia.