Serie «Tu IA es tonta… ¿o la vuelves tú?»: Parte 1 · Parte 2 · Parte 3
Parte 2: cuando actúa por ti
Se pidieron 26 borradores de correo para una lista de empresas. Se envió el primero y, en vez de mirar cómo había salido, llegó la respuesta: «siii, hazlo todos».
Cuatro correos volvieron rebotados. Uno había ido a una empresa que ya había contestado. Y otra herramienta de IA estaba enviando en paralelo desde la misma cuenta, sin que nadie lo supiera.
Una IA que solo escribe se equivoca en un papel. Una que envía, publica o rellena fichas (a esa se le llama agente: una IA con manos) se equivoca delante de tus clientes. Un cliente que recibe el correo de otro. Un mensaje que ya no se puede retirar. Una ficha pública con datos que no son. En la parte 1 vimos que con un encargo incompleto la IA rellena huecos. Aquí, además, actúa.
Salió el primero, y salieron todos
Las plantillas tampoco ayudaban. La de un sector hablaba de email cuando el canal era WhatsApp. La del siguiente mencionaba «piezas» en un negocio que no vende piezas, porque se había copiado de la anterior. Lo detectó la IA, no quien las enviaba.
Con rebotes, quejas de spam y bloqueos, lo que se pone en riesgo es tu correo y tu número de teléfono. Y se ensucia tu marca con un texto que nadie leyó entero.
La regla es sencilla: nada que salga en cantidad sale sin que una persona haya leído la versión final entera. Primero una tanda pequeña (yo pondría diez como máximo), con los correos verificados y cruzados con tu lista de quien ya ha contestado, y mirando qué ha pasado antes de seguir. Y antes de escribir en frío a nadie, comprueba qué te permite la ley en tu caso. En España hay normas sobre comunicaciones comerciales y datos personales (LSSI, RGPD), y conviene que lo mire alguien que sepa.
«Hecho» no es lo mismo que «está hecho»
Una de las frases más peligrosas es «ya está». La dice la IA, o quien la usa, se cambia el estado y se pasa a lo siguiente. Luego resulta que faltaba algo o que nadie comprobó el resultado real. Cuando la IA dice que ha terminado, solo significa que ella cree que ha terminado.
Lo mejor que vi en ese equipo fue cómo lo atacaban. Tras cada versión de un artículo preguntaban: «¿es un 10 de 10?». Y si decía que sí, la ponían a justificar la nota. Esa presión sacó afirmaciones que nadie había verificado, garantías que la ley no permitía dar y frases repetidas entre piezas distintas. Un «¿seguro?» sirve de poco. Pedirle que se ponga nota y discutírsela, mucho más.
Para no discutirlo cada vez, decide antes qué prueba mínima hace falta:
- Un texto para un cliente: contrastado con la web o los datos de ese cliente.
- Un envío: captura de la bandeja de salida.
- Un cambio en una ficha o una web: captura de antes y de después.
- Cualquier cifra: de dónde sale y de qué fecha es.
Sin prueba, la tarea sigue en curso.
Dos a la vez en la misma cuenta, y un lío que ya existía
La cuenta de Gmail de ese equipo tenía dos herramientas de IA con permiso para enviar. Las dos enviaban y se pisaban los campos. Nadie lo sabía hasta que la propia IA lo encontró al revisar la bandeja. En otra ocasión, una persona mandó un WhatsApp a mano mientras la IA guardaba ese mismo contacto.
Hay una variante: meter la IA en un trabajo que ya era un lío. La campaña de prospección se reconstruía desde cero en cada tanda y las plantillas se copiaban de una a otra. En otra tarea, a mitad de ejecutar un documento con nueve tareas ya preparadas, la persona dijo que no entendía una de ellas. Con un trabajo confuso, la IA no lo ordena: te da el lío más rápido.
Una sola herramienta con permiso de envío por cada cuenta. Empezar con permiso de lectura y dar el de envío cuando la tarea esté definida y probada. Revisar de vez en cuando qué aplicaciones tienen acceso a tu cuenta de Google, en los ajustes de seguridad, y quitar las que no reconozcas. Si el proceso no cabe en un folio (qué pasos, quién decide, cuándo está bien hecho), no lo automatices todavía. Y un documento de tareas se repasa cinco minutos con quien lo preparó antes de ejecutarlo, no a mitad.
Decidir si se envía es cosa tuya
Si hay una frase que resume lo que pasó en ese equipo, es esta: se le delegaba a la IA la decisión de enviar, pero no la de revisar. Tendría que ser al revés.
Que ella redacte, prepare y proponga. Que tú leas y decidas. Ese reparto cuesta cinco minutos por envío y evita casi todo lo anterior.
Cuatro cosas para esta semana:
- Nada en cantidad sale sin que alguien lea la versión final entera.
- «Hecho» se demuestra con una prueba, no con la palabra de la IA.
- Una herramienta con permiso de envío por cuenta, y permiso de lectura primero.
- Antes de ejecutar un documento de tareas, cinco minutos con quien lo preparó.
En la parte 3: las evidencias. Un caso entero, de principio a fin, y cómo saber qué hace de verdad tu equipo con la IA sin buscar culpables.
Siguiente: Parte 3: evidencias y errores
