La carrera desenfrenada por dominar la inteligencia artificial artificial enfrenta un punto de inflexión. Demis Hassabis, figura clave en el desarrollo de sistemas de IA de última generación, salió a plantear públicamente la necesidad de establecer un organismo internacional con facultades para detener o limitar proyectos que representen riesgos mayúsculos. La propuesta abre un debate incómodo dentro de la industria tecnológica: ¿quién debe vigilar a los vigilantes? ¿Bajo qué criterios se decide frenar la innovación? ¿Qué mecanismos garantizarían que tal estructura no se convierta en un instrumento de control político?
Lo que hace particularmente relevante esta posición es quién la sostiene y desde dónde. Hassabis dirige los esfuerzos de investigación en inteligencia artificial de una de las corporaciones más poderosas del planeta, lo que implica que su llamado a la regulación internacional proviene de adentro del ecosistema que más se beneficia del desarrollo acelerado de estas tecnologías. No se trata de un crítico externo, sino de alguien con poder decisorio en uno de los laboratorios más avanzados del mundo. Esto marca una diferencia sustancial respecto a los cuestionamientos que habitualmente vienen desde la academia o desde organismos defensores de derechos digitales.
El fantasma del control sin regulación
Durante años, la industria de la tecnología ha operado bajo una lógica de innovación casi sin restricciones. El argumento predominante sostenía que cualquier intento de regulación prematura frenaría el progreso y entregaría ventajas competitivas a otros actores globales. Esa narrativa comienza a resquebrajarse conforme los sistemas de inteligencia artificial alcanzan capacidades cada vez más sofisticadas y su influencia penetra áreas críticas de la sociedad: desde procesos judiciales hasta diagnósticos médicos, pasando por sistemas de vigilancia masiva y algoritmos que moldean qué información consume la población.
El planteo de Hassabis toca un nervio central: reconoce implícitamente que el desarrollo sin límites de ciertas tecnologías puede generar riesgos sistémicos. Sin embargo, la propuesta específica de que Estados Unidos lideraría tal organismo añade una arista geopolítica ineludible. Equivale a proponer que una potencia específica tendría responsabilidad primaria en autorizar o desautorizar avances tecnológicos a nivel mundial. Esto genera preguntas inmediatas: ¿cómo se garantizaría que tal liderazgo no reflejara intereses geopolíticos estadounidenses antes que criterios técnicos objetivos? ¿Qué sucedería con desarrollos que avancen desde otros países?
La paradoja de pedir control desde adentro del poder
La historia de las grandes industrias ofrece lecciones relevantes. Cuando sectores con influencia considerable —farmacéutico, financiero, energético— han tenido que someterse a regulación internacional, frecuentemente los marcos resultantes fueron débiles o diseñados con suficientes lagunas para permitir la continuidad de prácticas cuestionables. Existe una diferencia notable entre plantear regulación en abstracto y aceptar restricciones concretas que afecten líneas de investigación o productos en desarrollo. Hassabis habla de la necesidad de "frenar" modelos peligrosos, pero ¿quién define qué constituye peligro? ¿Con qué evidencia? ¿Con cuánta anticipación respecto a riesgos hipotéticos?
La propuesta también toca un aspecto menos evidente: reconoce que el mercado por sí solo no está generando incentivos suficientes para que las corporaciones autoregilen sus investigaciones. Si las compañías actuaran responsablemente de manera espontánea, un organismo internacional supervisorio sería innecesario. El hecho de que se pida su creación sugiere que existen presiones competitivas tan intensas que ningún actor individual quiere quedarse atrás por aplicarse restricciones voluntarias. Una empresa que se autolimite en el desarrollo de IA de frontera podría ver cómo sus competidores avanzan sin restricciones equivalentes, capturando mercado y talento. En ese contexto, una regulación internacional vinculante funcionaría como ecualizador: obligaría a todos por igual.
Los antecedentes de intentos de gobernanza global sobre tecnologías transformativas resultan ilustrativos. Los acuerdos internacionales sobre energía nuclear, por ejemplo, combinaron inspecciones, verificación mutua y consecuencias para incumplimientos, pero también permitieron que potencias nucleares continuaran desarrollando arsenales considerables. Los tratados sobre cambio climático han enfrentado resistencias persistentes de grandes economías. Las negociaciones sobre ciberseguridad se han estancado repetidamente en desacuerdos geopolíticos. No existen precedentes claros de que un organismo internacional pueda efectivamente frenar la innovación tecnológica de actores poderosos cuando existen incentivos económicos y estratégicos para continuar desarrollándola.
¿Qué sucedería después?
Si se avanzara en la creación de un mecanismo de control internacional, las consecuencias serían múltiples y complejas. Por un lado, podría establecerse un piso mínimo de seguridad y responsabilidad en los desarrollos de inteligencia artificial, reduciendo riesgos de daño masivo. Esto tendría implicancias positivas para millones de personas. Por otro lado, un marco regulatorio rígido podría concentrar aún más el poder en las corporaciones y gobiernos capaces de navegar los requisitos legales, ahogando innovación en actores más pequeños, académicos o descentralizados. Habría ganadores y perdedores claros.
La propuesta también abre interrogantes sobre qué pasaría con investigadores y desarrolladores en países que no participen o no respeten tales normas. ¿Se generarían sanciones? ¿Restricciones comerciales? ¿Competencia de dos velocidades en inteligencia artificial? El mundo ya experimenta fragmentación digital: unos internet chinos, europeos, estadounidenses. Una gobernanza diferenciada de la IA podría profundizar esa división o, alternativamente, servir como base para convergencia global. Los escenarios son múltiples y sus probabilidades dependerán de decisiones que aún no se toman.
