Saltar al contenido
Kata Ivanovych
Kata IvanovychLección, actualizado el 1 min de lectura

Cómo sabes que un sistema funciona (evals, sin humo)

La respuesta corta

Lo sabes con un eval: una lista corta de casos de tu tarea, un criterio claro y un número. El mando que decide es el umbral de aprobado, que se fija según lo que cueste fallar; sin ese número no hay sistema, hay una corazonada.

Lo que te llevas

  • Un umbral bajo aprueba errores y uno alto descarta respuestas buenas. Elegir ese número es el trabajo real de un sistema.
  • Fíjalo por lo que cueste fallar: para responder a un cliente puede valer un 80 %; para firmar un documento, quizá un 95 %.
  • Un eval mide si la IA hace tu tarea con tu criterio, no si es «buena»: cambia la tarea o el criterio y un sistema que parecía bueno puede dejar de serlo.

Montar una automatización con es fácil. Lo difícil es responder con datos a una pregunta incómoda: ¿funciona de verdad? La respuesta no es «me parece que sí»; es un eval.

Un eval es una lista corta de casos con un criterio claro y un número. El mando que se te escapa siempre es el umbral: cuánta puntuación exiges para decir «aprobado».

El umbral del banco de pruebas
60%%
Devolveré tu pedido. ¿Me confirmas el número para tramitarlo?88/100Aprueba
Tu pedido llegará en unos días.52/100Descarta
No se puede devolver.24/100Descarta
Cada respuesta tiene su puntuación fija; lo que mueves es tu criterio. Baja el umbral y apruebas respuestas flojas; súbelo y descartas las buenas. Elegir ese número es el trabajo real de un sistema.

Lo que enseña este mando

  • Un umbral bajo aprueba todo — y entonces el sistema no te está ahorrando trabajo, te está regalando errores.
  • Un umbral alto descarta de más — y el sistema se vuelve tan fino que no sirve para nada.
  • El número que elijas depende de lo que cueste fallar. Para responder a un cliente, puedes permitirte un 80 %; para firmar un documento, quizá un 95 %.

Compruébalo

Quiz

¿Qué te dice el umbral de un eval?

Cuando alguien te diga «la IA ya me lo hace bien», pregunta la única pregunta que importa: ¿con qué umbral? Si no hay número detrás, no hay sistema — hay una corazonada.

Y cuando montes el tuyo, haz lo que hago aquí: los números van en la biblioteca, con el banco de pruebas al lado.

Y si quieres llevarlo a una automatización de tu empresa, la guía cómo medir si una automatización funciona lo baja a horas, errores y esperas.

Para seguir con esto, una guía de NBI: Cómo medir si una automatización funciona

Por dónde seguir

  • Aprender

    Entiende la IA tocándola

    Un itinerario en orden, de los tokens a medir un sistema. Gratis, sin cuenta, y el progreso se guarda en tu navegador.

    Ver el itinerario
  • Seguir leyendo

    Más lecturas

    Guías, reflexiones y casos, con sus números y con lo que falló.

    Ver todas las lecturas
  • Escribirme

    O simplemente responde

    Si algo de aquí te ha servido, o te ha parecido mal, quiero saberlo. Lo leo yo y cambia lo que publico.

    info@ianexora.com

La newsletter

Lo importante de la semana, en tu correo

Te escribo con lo importante de la semana: un sistema que he puesto en marcha, con sus números y lo que se rompió, o algo que ha pasado en la IA y qué te cambia.

Leer ediciones anteriores