La alarma sobre la superinteligencia que nadie quiere escuchar
Una voz se levantó esta semana desde el Congreso Nacional para amplificar un mensaje que circula en los pasillos más reservados de las principales corporaciones tecnológicas del planeta: los desarrolladores de sistemas de inteligencia artificial reconocen, al menos en privado, que están creando algo cuya dimensión de peligro potencial desconocen. El diputado Juan Grabois, legislador de Unión por la Patria e histórico referente de movimientos sociales, decidió trasladar esa preocupación a la esfera pública, transformando advertencias internas en un llamado de atención que trasciende las fronteras de la tecnología pura para convertirse en una cuestión política y moral. Lo que está en juego, según esta perspectiva, no es simplemente la competencia entre empresas o la velocidad de innovación, sino potencialmente la supervivencia de la especie humana en el corto plazo. Por eso su convocatoria a un "pacto tecnológico mundial" que frene lo que caracterizó como una "carrera a la muerte" resuena con una urgencia que pocas cuestiones contemporáneas poseen.
Los hechos que alimentan esta alarma son concretos y provienen de fuentes internas. Jacob Coxon, un investigador de 27 años que ha transitado las estructuras de dos de las empresas líderes en inteligencia artificial artificial —primero OpenAI y posteriormente Anthropic—, renunció esta semana de manera abrupta a su trabajo. Su motivo no fue el sueldo, las condiciones laborales o disputas corporativas convencionales, sino algo más fundamental: la convicción de que tanto OpenAI como Anthropic están participando en una empresa que él describe directamente como jugar con las vidas de todos los habitantes del planeta. Su advertencia fue específica y perturbadora: quienes construyen estos sistemas creen sinceramente que podrían terminar matando a la humanidad antes de que termine esta década. No es un pronóstico estadístico lejano o una posibilidad teórica; es la evaluación que hacen internamente los propios ingenieros que trabajan en el código.
Los números que generan inquietud desde adentro de la industria
Lo que transforma esta renuncia de un investigador en un asunto de magnitud global es el respaldo que recibió desde la cúpula de seguridad de Anthropic. Evan Hubinger, quien encabeza el departamento de seguridad de la empresa, emitió una declaración pública que ratificaba las preocupaciones de Coxon con una precisión matemática inquietante. Hubinger estimó que existe más de un 10% de probabilidad de que la inteligencia artificial termine siendo responsable de la muerte de todos los seres humanos durante la próxima década. Ese porcentaje puede parecer bajo a primera vista, pero cobra una dimensión radicalmente distinta cuando se interpreta como riesgo existencial. En términos de evaluación del riesgo catastrófico, una probabilidad de una entre diez de que ocurra un evento que significaría el fin de la civilización como la conocemos no es un número tolerable. Es, por el contrario, un nivel de riesgo que en cualquier otro dominio —la salud pública, la seguridad aeronáutica, la nuclear— motivaría una intervención inmediata a nivel estatal e internacional.
La posición de estos investigadores apunta a algo más profundo que una simple disputa técnica sobre la velocidad de desarrollo. Ellos argumentan que existe un proceso en marcha conocido como "automejora recursiva" en sistemas de superinteligencia, un mecanismo mediante el cual estos algoritmos podrían mejorarse a sí mismos de manera exponencial sin intervención humana, generando dinámicas que sus creadores literalmente admiten no comprender completamente. Esta confesión de ignorancia desde los propios constructores es relevante: no se trata de un riesgo calculado y asumido conscientemente, sino de un riesgo incalculable que continúa profundizándose mientras la carrera tecnológica acelera sin frenos regulatorios reales. Los creadores avanzan sabiendo que no saben lo que están haciendo, lo cual transforma cada nuevo nivel de sofisticación alcanzado en un salto hacia lo desconocido.
El pronunciamiento político y la invocación de autoridad moral
Grabois, en su intervención desde las redes sociales, rechazó los tonos tibios y la tendencia a normalizar lo extraordinario. Enfatizó que "esto no es joda", usando un lenguaje directo que buscaba penetrar la indiferencia cotidiana. Su reflexión incluyó una crítica implícita a la capacidad de distracción y seguimiento de la vida normal por parte de quienes conocen estas amenazas pero continúan actuando como si nada estuviera sucediendo. En su diagnóstico, incluso cuando existen "un montón de frentes abiertos" en la política, la economía y la vida social —demandas que compiten legítimamente por la atención y los recursos—, la posibilidad de que un sistema tecnológico descontrolado termine con toda la civilización debería ocupar un nivel prioritario distinto.
El legislador no hizo este planteo en soledad. Invocó la autoridad moral de la Iglesia Católica y específicamente la encíclica Magnifica Humanitas del Papa León XIV, un documento que ha tomado posición explícita sobre los peligros de la "deshumanización" inherente al desarrollo sin límites de la inteligencia artificial. Esta referencia no es casual. Grabois ha demostrado a lo largo de su carrera una capacidad para conectar luchas sociales con reflexiones teológicas y filosóficas, buscando fundamentar sus posiciones políticas en marcos de pensamiento que trascienden la pugna partidaria convencional. En este caso, la invocación papal sirve para señalar que la preocupación no es exclusiva de un sector político o ideológico, sino que ha trascendido a instituciones de alcance universal.
Interesantemente, el contexto de este pronunciamiento incluye un antecedente reciente que Grabois mismo clarificó: en junio pasado se reunió con Peter Thiel, uno de los inversores y pensadores más influyentes de Silicon Valley, en la residencia que este mantiene en el barrio porteño de Parque. Esa reunión, que pudo haber parecido contradictoria para algunos observadores, fue explicada por Grabois como parte de un esfuerzo de diálogo facilitado por el Vaticano mismo, donde la Iglesia buscaba escuchar directamente la perspectiva de quienes operan en el corazón del sistema tecnológico que genera preocupación. Thiel, cofundador de PayPal junto a Elon Musk y posteriormente inversor temprano en Facebook y otros gigantes tecnológicos, representa precisamente ese sector que acumula poder de decisión sobre la dirección del desarrollo tecnológico global.
El llamado a la gobernanza global frente a una amenaza sin fronteras
La propuesta de Grabois de un "pacto tecnológico mundial" adquiere sentido precisamente porque la inteligencia artificial no es un fenómeno que pueda ser regulado únicamente a nivel nacional o regional. A diferencia de otras tecnologías transformadoras del pasado, la IA desarrollada en Silicon Valley, en laboratorios chinos o en centros europeos forma parte de un ecosistema global donde el conocimiento se comparte, se replica y se mejora constantemente. Un acuerdo que involucre solamente a algunos países dejaría fuera a otros, generando incentivos perversos para que la carrera continúe en jurisdicciones sin restricciones. Por eso el llamado es explícitamente por un consenso de alcance planetario, similar en escala a los tratados sobre armas nucleares o cambio climático, aunque la urgencia temporal sea incomparablemente mayor según los propios investigadores que trabajan en el tema.
El desafío político que emerge de estas advertencias es múltiple. Por un lado, existe la cuestión de credibilidad: ¿por qué creer a investigadores que renuncian o a ejecutivos que admiten riesgos cuando la industria continúa invirtiendo recursos masivos en acelerar el desarrollo? La respuesta que ofrecen tanto Coxon como Hubinger es que, precisamente porque conocen los sistemas desde adentro, su evaluación del riesgo es más informada que la de cualquier observador externo. Por otro lado, existe el desafío de la acción política: los gobiernos nacionales, ya enfrentados a crisis económicas, de seguridad y legitimidad, tienen dificultades para priorizar amenazas que se presentan como probabilísticas y ubicadas en un horizonte temporal de una década. Sin embargo, los investigadores argumentan que esa ventana de tiempo es precisamente lo que queda para actuar antes de que los sistemas alcancen un nivel de autonomía y poder que haga imposible cualquier intervención posterior.
Las implicancias de esta situación se despliegan en múltiples direcciones. Si las advertencias de los investigadores son acertadas, la humanidad enfrenta un riesgo de magnitud catastrófica que requeriría una movilización política y recursos comparables a los de cualquier guerra o emergencia sanitaria global. Si, por el contrario, estos pronósticos resultan ser exagerados o técnicamente infundados, la inversión en regulación internacional podría interpretarse como un obstáculo innecesario al progreso tecnológico que genera beneficios tangibles en medicina, productividad y resolución de problemas complejos. Entre estas dos posibilidades se debate ahora no solo la dirección del desarrollo tecnológico, sino la capacidad misma de la política democrática para anticiparse a transformaciones cuya velocidad y complejidad desafían los marcos convencionales de deliberación y decisión colectiva.
