Cuentan que Till Eulenspiegel se reía subiendo una cuesta y lloraba bajándola. Preguntado por qué, explicó que, subiendo, pensaba en la bajada que le esperaba; bajando, en la próxima subida. Guño centenario al presente. Nuestra actual discusión sobre inteligencia artificial parece empeñada en actualizarlo: mientras unos celebran el descanso futuro, otros ya sufren la próxima pendiente. Mientras tanto, toca caminar.
Marta Peirano lanzó en El País un buen dardo. Que las empresas de IA despliegan sistemas cuyos riesgos no controlan del todo y nos piden que confiemos en su autorregulación («Por qué dicen que quieren parar»). Coincido en lo esencial: quien vende una tecnología responde por sus consecuencias, y la fascinación técnica no es un seguro de impunidad.
El artículo mezcla defecto observado, capacidad peligrosa y ataque ocurrido bajo la misma etiqueta de «malware», y esa mezcla complica saber de qué estamos hablando. Conviene abrir los enlaces: el informe de OpenAI citado describe instrucciones no autorizadas que aparecieron en resúmenes generados durante un entrenamiento interno. Es un hallazgo real, documentado por el propio fabricante (y ahí también cabe pedir escrutinio independiente) pero raro y ya corregido; no hay, con esa evidencia, enjambres autorreplicantes propagándose por internet. Si le exigimos rigor a quien vende IA, hay que exigírselo también a quien explica sus peligros, a los medios. La crítica gana cuando precisa (a punto estoy de escribir que el populismo mata al periodismo primero y a la democracia después…)
1. Un mundo con IA, un mundo sin IA
Hagamos el ejercicio con honestidad. Sin IA generativa evitaríamos ciertos errores automatizados, nuevas dependencias y parte de su consumo de recursos. También renunciaríamos a herramientas que reducen barreras para escribir, programar o trabajar con información.
No voy a comparar la mejor demo comercial con la peor oficina del planeta, ni el peor chatbot con un profesional ideal, descansado y gratuito. Comparemos tareas equivalentes, personas reales, costes completos y qué pasa cuando el sistema falla.
Un estudio con 5.172 trabajadores de atención al cliente (Brynjolfsson, Li y Raymond) encontró un 15% más de incidencias resueltas por hora con asistencia de IA. El beneficio fue desigual: los menos experimentados mejoraron más, entre los expertos hubo pequeñas pérdidas de calidad. Hay una oportunidad concreta ahí. Convertirla en promesa universal ya es publicidad.
2. ¿Es esto como el miedo a la tele, a internet o al móvil?
Como discusión social, sí: quién educa, quién influye, quién gana dinero, qué capacidades dejamos de ejercitar. Como tecnología, la comparación tiene límites.
La televisión distribuye mensajes. Internet permite publicarlos y conectar sistemas. El móvil los pone disponibles casi sin descanso. La IA generativa añade producir respuestas adaptadas al interlocutor y, conectada a herramientas y permisos, ejecutar acciones. Por eso importa distinguir entre pedirle ideas para una campaña y dejarla modificar una base de datos.
Invocar los miedos anteriores no demuestra que los actuales sean infundados. Tampoco demuestra que toda innovación termine mal. La analogía sirve para hacer preguntas, no para ahorrarnos las pruebas.
3. Qué estamos haciendo, de verdad, para reducir daños y aprovechar la oportunidad
Existen recursos: la UNESCO publicó una guía sobre IA generativa en educación y el NIST tiene un marco de gestión de riesgo con perfil específico para IA generativa. Que existan no acredita que cada escuela, ayuntamiento o pyme los aplique (otro día abrimos el melón de tengo protocolos que no aplico…)
Para reducir daños: permisos mínimos, pruebas antes del despliegue, aprobación humana para acciones de consecuencias importantes. Ejemplo propio, es el terreno en el que trabajamos en Atheron (atheron.ai, gobernanza de IA para operadores municipales e industriales), donde esos permisos y esas aprobaciones no son eslogan, son el diseño (si no, apága y vamonos)
Para aprovechar la oportunidad: formación con casos propios y tiempo protegido para practicar. Y sí, ambas partidas necesitan presupuesto. Dejar toda la responsabilidad al trabajador mientras se le exige producir más es una forma cómoda de desentenderse (tercer melón que no cabe aquí…)
¿Puesta en práctica? Pues propongo algo medible: proceso delimitado, cuatro semanas. Medir cuánto tarda hoy, qué errores comete, cuánto cuesta revisarlo. Repetir con IA, incluyendo formación, supervisión y correcciones. Si una tarea baja de sesenta a cuarenta minutos pero exige treinta de comprobación, el ahorro anunciado desaparece. Ese cálculo también debería entrar en la propuesta comercial, no solo en la nuestra.
Faltan dos preguntas incómodas.
Productividad, ¿para quién? Si ganamos tiempo, podemos mejorar el servicio, reducir carga, formar personas o aumentar beneficios; esa distribución merece negociarse, no darse por hecha. Y la factura material: la IEA estimó que los centros de datos consumieron cerca del 1,5% de la electricidad mundial en 2024, y proyecta unos 945 TWh para 2030 con la IA como principal motor. Es una proyección, no un consumo ya ocurrido, pero exige preguntar por el modelo adecuado al problema, no por el más grande por costumbre.
Decisiones comprobables, no titulares
Acepto la advertencia de Peirano sobre responsabilidad, concentración de poder y dependencia. La quiero convertir en decisiones que se puedan verificar: qué usos permitimos, cuáles suspendemos, quién audita, cómo reclamamos.
Un ayuntamiento, conserva así una vía de atención humana y medición de reclamaciones. Una pyme, puede documentar cómo recuperar sus datos y cambiar de proveedor sin quedar atrapada. Son propuestas con responsable identificable: permiten corregir y también abandonar una herramienta cuando no cumple.
Till se reía subiendo porque imaginaba la bajada. Nosotros podemos anticipar beneficios sin darlos por hechos, y preparar protección sin convertir cada hipótesis en catástrofe confirmada. La próxima reunión sobre IA debería terminar con un responsable, un presupuesto y una fecha de evaluación.
¿O qué estamos poniendo en esas tres casillas?
Sobre por qué la función real de la IA suele estar en otro lado y no donde la venden: la verdadera función de la inteligencia artificial pasa por otro lado.