Cómo sabes que un sistema funciona (evals, sin humo)
La respuesta corta
Lo sabes con un eval: una lista corta de casos de tu tarea, un criterio claro y un número. El mando que decide es el umbral de aprobado, que se fija según lo que cueste fallar; sin ese número no hay sistema, hay una corazonada.
Lo que te llevas
- Un umbral bajo aprueba errores y uno alto descarta respuestas buenas. Elegir ese número es el trabajo real de un sistema.
- Fíjalo por lo que cueste fallar: para responder a un cliente puede valer un 80 %; para firmar un documento, quizá un 95 %.
- Un eval mide si la IA hace tu tarea con tu criterio, no si es «buena»: cambia la tarea o el criterio y un sistema que parecía bueno puede dejar de serlo.
Montar una automatización con es fácil. Lo difícil es responder con datos a una pregunta incómoda: ¿funciona de verdad? La respuesta no es «me parece que sí»; es un eval.
Un eval es una lista corta de casos con un criterio claro y un número. El mando que se te escapa siempre es el umbral: cuánta puntuación exiges para decir «aprobado».
Lo que enseña este mando
- Un umbral bajo aprueba todo — y entonces el sistema no te está ahorrando trabajo, te está regalando errores.
- Un umbral alto descarta de más — y el sistema se vuelve tan fino que no sirve para nada.
- El número que elijas depende de lo que cueste fallar. Para responder a un cliente, puedes permitirte un 80 %; para firmar un documento, quizá un 95 %.
Compruébalo
¿Qué te dice el umbral de un eval?
Cuando alguien te diga «la IA ya me lo hace bien», pregunta la única pregunta que importa: ¿con qué umbral? Si no hay número detrás, no hay sistema — hay una corazonada.
Y cuando montes el tuyo, haz lo que hago aquí: los números van en la biblioteca, con el banco de pruebas al lado.
Y si quieres llevarlo a una automatización de tu empresa, la guía cómo medir si una automatización funciona lo baja a horas, errores y esperas.
Para seguir con esto, una guía de NBI: Cómo medir si una automatización funciona
Por dónde seguir
Aprender
Entiende la IA tocándola
Un itinerario en orden, de los tokens a medir un sistema. Gratis, sin cuenta, y el progreso se guarda en tu navegador.
Ver el itinerarioSeguir leyendo
Más lecturas
Guías, reflexiones y casos, con sus números y con lo que falló.
Ver todas las lecturasEscribirme
O simplemente responde
Si algo de aquí te ha servido, o te ha parecido mal, quiero saberlo. Lo leo yo y cambia lo que publico.
info@ianexora.com
La newsletter
Lo importante de la semana, en tu correo
Te escribo con lo importante de la semana: un sistema que he puesto en marcha, con sus números y lo que se rompió, o algo que ha pasado en la IA y qué te cambia.