Serie «Tu IA es tonta… ¿o la vuelves tú?»: Parte 1 · Parte 2 · Parte 3
Parte 3: evidencias y errores
En esa cuenta escribía más de una persona y casi ningún chat llevaba firma. Cuando hubo que saber quién había hecho qué, no se pudo. No se pudo saber quién lo había hecho ni, lo que es peor, ayudar a esa persona a no repetirlo.
Si diriges un equipo que usa IA, esta es la pregunta incómoda: ¿cómo sabes lo que hace con ella? Esta parte es un método para averiguarlo con pruebas y no con sospechas. Ya viste en las partes 1 y 2 los errores sueltos. Aquí ves cómo se encadenan, cómo se leen y qué hacer después.
Tres cajones: lo que se ve, lo que se deduce, lo que se supone
Antes de juzgar a nadie, separa lo que tienes delante en tres cajones.
Lo que se ve. Hechos que puedes señalar con el dedo. Por ejemplo: la IA marcó un paso como terminado y, en la misma respuesta, enumeraba datos que le faltaban.
Lo que se deduce. Conclusiones que salen de los hechos, y que podrías defender. Por ejemplo: las marcas de «terminado» y «verificado» no tenían nada detrás; se apoyaban en lo que había dicho el usuario o en «el contexto».
Lo que se supone. Explicaciones sobre los motivos, que no puedes demostrar desde fuera. Por ejemplo: «no lo lee por pereza». Puede ser, y es solo una hipótesis. Cada una tiene un indicio que la apoyaría y una alternativa que hay que descartar antes:
- ¿Pereza de leer? Lo apoyaría que no abra los documentos aun teniendo tiempo. Hay que descartar antes sobrecarga o falta de tiempo.
- ¿Exceso de confianza? Lo apoyaría que repita el mismo error después de corregirlo. Hay que descartar que no sepa ver el error.
- ¿No sabe manejar la IA? Lo apoyaría que acepte sus respuestas sin comprobarlas. Hay que descartar que le haya faltado formación.
- ¿Conformismo? Lo apoyaría que dé por bueno un «terminado» sin pedir pruebas. Hay que descartar que el proceso no se las exija.
Evalúa por la conducta que se repite después de explicarla, no por etiquetas.
Un caso entero: una clínica y un primer informe
Una IA tenía que preparar el primer paso de un trabajo para que una clínica apareciera mejor en Google. No consta que se tocara nada real: se cazó en papel, y por eso sirve para aprender. Tres escenas.
El arranque. La IA empezó con el cliente equivocado: había tomado como cliente el del ejemplo que venía en sus propias instrucciones. Quien la usaba lo corrigió. Pero después aparecieron dirección, teléfonos, precios, reseñas y cifras de búsquedas («entre 50 y 100») sin decir de dónde salían ni de cuándo, aunque la regla decía que no se estimara. Aquí se podía parar con una pregunta: «¿de dónde sale esto?», una vez por cada cifra.
El «terminado». La IA dio el primer paso por terminado y, en la misma respuesta, enumeraba datos que le faltaban. Se aceptó y se pasó al siguiente. En el diagnóstico se colaron cifras de otra sede y una comparación con un negocio de otro sector. No se puede decir que todo fuera inventado. Se puede decir que nadie supo demostrar de dónde venía. Aquí se podía parar: «terminado» y «me falta información» no caben en la misma respuesta.
El objetivo al revés. Propuso como meta pasar de la posición 4,68 (casi un 5) a la 6 en Google, y lo presentó como mejora. En Google el 1 es lo mejor, así que era retroceder, y nadie comprobó en qué dirección era bueno ese número. Después se puso a una segunda IA a revisar sin que el trabajo anterior estuviera cerrado: no tenía nada que revisar y aun así resumió «0 inventos». Aquí se podía parar antes de aceptar la meta: ¿este número es bueno cuando sube o cuando baja?
Quién falló: tres sitios a la vez
El informe reparte la responsabilidad en tres niveles, y conviene no cargarlo todo en uno.
La IA afirmó cosas sin fuente, mezcló datos y se declaró revisada. La persona no paró ni comprobó: aceptó un «terminado» con datos que faltaban y fue pegando un rol detrás de otro sin cerrar lo del anterior. Y el proceso, que es lo que menos se mira: las instrucciones que se le habían dado tenían contradicciones, y el ejemplo que se daba como modelo mezclaba estados incoherentes.
Cargarlo todo sobre quien ejecuta es injusto. Absolverlo, también. Si diriges, empieza por tu parte.
Un mismo equipo, dos formas de usarla
Lo más revelador del informe no era que el equipo usara mal la IA. Era que la usaba bien y mal a la vez. En las tareas de análisis y de contenido verificaban, discutían la nota de la IA y bloqueaban la publicación hasta revisar. En los envíos masivos y las gestiones sueltas, la dejaban en piloto automático: se ignoraban los avisos, se mandaba en cantidad sin revisar y el que limpiaba después era otro.
El informe apunta que los dos bloques tenían las mismas herramientas. Lo que cambiaba era el método. Quien trabajaba con método usaba instrucciones guardadas, datos reales y revisión humana. El otro bloque la usaba como un chat con superpoderes y, cuando le daba acceso real al correo o al WhatsApp, lo hacía sin los controles que eso exige.
Qué demuestra que alguien sabe usarla, y qué no
Qué sí lo demuestra: poner fuente y fecha a cada cifra; parar a la IA cuando mezcla datos; hacer una pregunta técnica con la prueba delante; consultar solo lo que es una decisión, una credencial, un dato de cliente o un riesgo.
Qué no lo demuestra: llevar varias herramientas de IA abiertas; que varias coincidan sin una prueba externa que las respalde; probar plugins o modas sin que sirvan para nada; ni, al revés, consultarlo todo.
El bucle sin condición de parada
Hay un patrón que el informe detecta en varios sitios, y que cualquiera reconoce: pides algo, no te gusta, lo pides otra vez, sigue sin gustarte. Una vuelta, otra, otra. Un bucle de pedir y corregir es sano si tiene una condición de parada: «esto se da por bueno cuando cumpla estos tres criterios». Sin ella, el bucle no se acaba nunca. Y los rechazos sin dirección («me sigue sin gustar») son justo lo que lo alarga.
La salida es la de la parte 1: antes de empezar, decir cómo se va a saber que está bien. Y al rechazar algo, decir qué falla.
Quince días para ordenarlo, si diriges
Esto es lo que yo haría en dos semanas con un equipo que usa IA, según lo que recomienda el informe:
- Que cada chat tenga dueño. Un proyecto por persona, o que cada chat empiece con el nombre. Sin eso no hay auditoría posible. Avisa antes al equipo de que lo vas a hacer.
- Envíos con freno. Nada se manda sin confirmar que se ha leído la plantilla final. Tandas pequeñas, correos verificados, cruce con quien ya ha contestado, y cada aviso de riesgo de la IA contestado por escrito antes de seguir.
- Limpiar accesos. Una sola sesión activa por cuenta. Quita las conexiones duplicadas y las herramientas que no uses.
- Revisar lo ya publicado. Mira las fichas y directorios dados de alta por si hay datos de un cliente en la ficha de otro.
- Convertir lo repetido en recetas guardadas. Dos o tres, las que más veces se hayan rehecho.
- Una hora de formación, con una sola regla: antes de pedir, tener el material (texto, datos, objetivo, restricción). Fuera los roles vacíos («eres experto en…»); dentro, los datos y un ejemplo de resultado esperado.
Y el día 15, revisión con los chats ya identificados por persona. Lo que funcione bien no se toca: sirve de referencia para el resto.
La prueba para quien ejecuta
Si quieres comprobar si esto se ha entendido, plantéalo como práctica y no como castigo:
- Dale una transcripción con errores y pídele que los señale.
- Pídele que rehaga una tarea con datos correctos y sin tu ayuda.
- Pídele que justifique cada cifra de lo que entrega: fuente, fecha y cálculo.
Quien lo pasa, ya sabe. Quien no lo pasa, sabe qué le falta. Y tú sabes por dónde empezar.
Prueba final, para ti
Coge el último trabajo que hiciste con IA y hazte cuatro preguntas. ¿Le di todo el material desde el principio? ¿Contesté lo que me preguntó o me avisó? ¿Tengo algo que demuestre que está hecho, además de que ella lo dijera? Si hubiera salido fuera y estuviera mal, ¿podría deshacerlo?
Con dos «no» ya sabes por dónde se te va el tiempo. Empieza por esa.
← Parte 2: cuando actúa por ti · Parte 1: lo que haces antes de pedirle nada
