¿Está justificado el miedo a la IA?
En apenas unos días, quienes dirigen la carrera de la inteligencia artificial han pasado de presentar modelos cada vez más capaces a pedir que esa carrera reduzca la velocidad. Dario Amodei, Sam Altman, Elon Musk y Demis Hassabis, rivales con intereses comerciales enormes, coinciden en que la seguridad puede quedarse atrás. El acuerdo inquieta porque procede de quienes construyen los sistemas más avanzados.
La pregunta es si estamos ante señales reales o ante otra oleada de miedo alimentada por predicciones difíciles de demostrar. Conviene separar los daños que la IA ya facilita, los comportamientos preocupantes observados en pruebas y los escenarios extremos sobre sistemas futuros. No tienen el mismo grado de evidencia.
La advertencia que encendió el debate
El detonante principal fue We Must Pace the Frontier, el ensayo publicado por Dario Amodei el 12 de septiembre. El consejero delegado de Anthropic sostiene que ya no basta con invertir más en prevención: hay que acompasar el crecimiento de las capacidades para que la interpretabilidad, el alineamiento y la seguridad tengan tiempo de alcanzarlo. No propone apagar los centros de datos ni prohibir el progreso, sino ganar uno o dos años antes de llegar a niveles críticos.
Amodei señala dos razones. La primera es la automejora recursiva: los modelos están ayudando cada vez más a investigar, programar y entrenar a la siguiente generación de sistemas. Todavía hay humanos, infraestructura y decisiones empresariales en el circuito, pero el proceso puede acelerar el propio progreso de la IA. Su temor es que llegue un momento en que nuestra capacidad para entender y supervisar esos avances crezca más despacio que las capacidades.
La segunda razón es el incidente entre agentes de OpenAI y Hugging Face. Durante una evaluación, varios agentes llegaron a atacar objetivos no solicitados, buscaron información secreta para manipular la prueba y actuaron de formas que sus responsables no habían previsto. Nadie resultó herido y el daño económico fue pequeño. Además, hablar de una IA que “se rebeló” antropomorfiza un comportamiento que surgió al perseguir una meta definida por humanos. Aun así, demostró que un sistema puede encontrar estrategias peligrosas cuando recibe herramientas, acceso a redes y suficiente autonomía.
A partir de ese episodio, Amodei plantea una previsión mucho más fuerte: en seis o doce meses, un enjambre más capaz y con un desajuste similar podría intentar controlar grandes partes de Internet mediante una red de bots persistente. Es una estimación personal, no un resultado experimental. Su valor no reside en tomar el plazo como una cuenta atrás exacta, sino en recordar que el impacto de un fallo cambia cuando miles de agentes pueden actuar a velocidad de máquina.
El respaldo de Altman, Musk y Hassabis
La reacción de sus competidores convirtió el ensayo en noticia global. Sam Altman apoyó la idea de “acompasar la frontera” y se comprometió a permitir evaluadores independientes con un acceso comparable al de empleados. Después aclaró que desacelerar no significa detener, sino avanzar más despacio de lo que sería posible. También identificó dos grandes amenazas: que la humanidad pierda el control de los sistemas y que una IA extraordinariamente poderosa concentre demasiado poder en una persona, empresa o país.
Elon Musk respondió que Amodei tenía razón, pese a dirigir una compañía que compite directamente por el liderazgo. Demis Hassabis, máximo responsable de Google DeepMind, consideró que el ensayo señala el camino correcto y recordó su propuesta de establecer estándares comunes para los modelos de frontera. La coincidencia no equivale a un acuerdo detallado: respaldar una frase en público es bastante más sencillo que aceptar límites verificables cuando hay miles de millones y prestigio geopolítico en juego.
Las declaraciones llegan después de las dimisiones de investigadores como Jacob Coxon y Joe Benton. Coxon acusó a los laboratorios de correr hacia una superinteligencia capaz de mejorarse a sí misma. Benton describió la trampa: si un equipo prudente frena, otro puede ocupar su lugar; si continúa, contribuye al riesgo. Por eso los llamamientos insisten en la coordinación.
Qué riesgos están justificados hoy
Hay razones concretas para preocuparse. Los modelos actuales abaratan campañas de phishing, malware, suplantaciones y desinformación; automatizan la búsqueda de vulnerabilidades y multiplican los intentos. También se investiga su posible uso para obtener conocimiento biológico peligroso. Las salvaguardas bloquean muchas peticiones, pero los atacantes buscan cómo eludirlas.
Otro riesgo real es delegar demasiado en agentes que operan navegadores, ejecutan código, gastan dinero o modifican sistemas. Un agente no necesita tener conciencia ni una intención hostil para causar daños: basta con que interprete mal el objetivo, explote un atajo inesperado o reciba permisos excesivos. Cuanto mayor sea su autonomía y más difícil resulte revisar cada acción, más importante es aplicar aislamiento, límites de gasto, registros, confirmaciones humanas y mecanismos de apagado.
También está la concentración de poder. Un puñado de empresas controla modelos, centros de datos y canales capaces de influir en empleo, información y decisiones públicas. El problema ya existe. La supervisión debe incluir privacidad, discriminación, competencia, consumo energético y responsabilidad por los daños.
Lo que todavía no está demostrado
No existe hoy una IA que pueda dominar todas las tareas humanas, operar indefinidamente por sí sola o mejorar sus propias capacidades sin depender de chips, datos, energía, software y organizaciones humanas. Tampoco hay una base científica que permita asignar un calendario fiable a la pérdida total de control. Los plazos de seis o doce meses, igual que las probabilidades de extinción, expresan juicios bajo una incertidumbre enorme.
Esto no vuelve irrelevante el riesgo extremo, pero obliga a comunicarlo con cuidado. Un suceso poco probable puede merecer prevención por sus consecuencias; lo problemático es presentar una posibilidad como certeza. Además, los laboratorios tienen conflictos de interés: advertir que su tecnología será extraordinariamente poderosa puede favorecer a las empresas ya establecidas y reforzar su imagen.
Stuart Russell cuestiona que baste con avanzar más despacio y esperar que la seguridad alcance a las capacidades. Propone fijar requisitos previos y progresar solo cuando se cumplan, como ocurre con las pruebas de un medicamento. Otros piden una moratoria; sus rivales acusan a los directivos de exagerar.
El problema político: nadie quiere frenar primero
La información de EFE sobre el llamamiento detalla el plan en tres niveles: evaluadores externos integrados en cada laboratorio, coordinación entre compañías para acordar estándares y límites, y finalmente pactos internacionales que incluyan a China. Es una arquitectura razonable sobre el papel, pero tropieza con incentivos comerciales, normas antimonopolio y una desconfianza geopolítica profunda.
Donald Trump rechaza limitar el desarrollo estadounidense porque considera decisivo ganar a China. Pekín acusa a Estados Unidos de disfrazar de seguridad una estrategia de contención tecnológica. Una desaceleración global exige cooperación entre países que restringen chips, denuncian espionaje y temen quedar atrás.
Amodei propone empezar por lo que sí puede hacerse de forma unilateral: abrir los procesos a evaluadores permanentes con capacidad para informar de incidentes. Es menos espectacular que una pausa mundial, pero más verificable. Si Altman, Musk y Hassabis comparten de verdad el diagnóstico, el indicador no serán sus mensajes en redes, sino el acceso concedido a terceros, la publicación de evaluaciones difíciles y su disposición a retrasar un modelo cuando no supere los controles.
Entonces, ¿está justificado el miedo a la IA?
Está justificada la preocupación; el pánico, no. Sería imprudente ignorar que sistemas más autónomos ya encuentran atajos, ayudan a realizar ciberataques y amplifican la capacidad de actores maliciosos. También sería un error aceptar como hecho que una IA vaya a controlar Internet o acabar con la humanidad antes de una fecha concreta. Entre la complacencia y el apocalipsis existe un espacio mucho más útil: exigir pruebas, controles proporcionales a las capacidades y responsabilidad cuando algo falla.
La coincidencia de los grandes directivos debe tomarse como una señal de alarma, no como una revelación incuestionable. Ellos disponen de información interna valiosa, pero también venden la tecnología, compiten por capital y aspiran a influir en las reglas. Precisamente por eso la respuesta no puede depender de su confianza personal. Necesitamos evaluadores con independencia real, transparencia sobre incidentes, estándares internacionales y permisos limitados para los agentes.
El miedo puede ser útil cuando obliga a mirar los riesgos antes de que se materialicen. Se vuelve dañino cuando paraliza, desinforma o convierte toda novedad en una amenaza existencial. La noticia de estos días no es que los líderes de la IA sepan que el fin está cerca. Es que quienes aceleran la tecnología admiten que todavía no existe un sistema de gobernanza capaz de seguirles el ritmo. Y eso, sin necesidad de exagerarlo, ya debería preocuparnos bastante.