Por Arturo González González

Los vientos de otoño alborotaron nuevamente el debate sobre los riesgos de la IA. Pero la base de la discusión es prácticamente la misma desde que esta tecnología hizo su irrupción masiva en 2022: ¿representa una IA cada vez más autónoma un peligro existencial para la humanidad? Considero que debemos comenzar a plantearnos nuevas preguntas. Por ejemplo, ¿qué hay detrás del miedo que produce una IA más poderosa? Y ¿el miedo es por alcanzar una IA así o porque alguien más la alcance primero?

A mediados de septiembre, el presidente de Estados Unidos, Donald Trump, resumió en una frase la visión que guía la política de su país sobre la tecnología de marras: “quien gana la IA, gana”. Lo dijo más de una vez, y en una de las ocasiones apuntó a China como el rival que Estados Unidos debe dejar atrás en esta carrera. Aunque suena a otra ocurrencia del magnate republicano, no lo es. El plan oficial de la Casa Blanca sobre la IA habla abiertamente de una carrera por el “dominio global” en la que el ecosistema de la nueva tecnología juega un papel protagónico. ¿Qué pesa más, entonces: el miedo a los riesgos de una superinteligencia no humana o el miedo a que un competidor la posea antes? Todo depende. Pero, antes de ir a ello, una precisión.

Buena parte del temor sobre la IA se ha centrado en la singularidad. Y ¿qué es eso? En pocas palabras: una IA que se mejora a sí misma cada vez más rápido al grado de que su evolución se vuelve impredecible. No hay evidencia en estos momentos de que estemos ahí y tampoco existe un calendario científico serio que nos permita saber si llegaremos o cuándo lo haremos. Los límites en recursos físicos, energía, capacidad de procesamiento y desarrollo algorítmico persisten. Aunque es hasta cierto punto normal que se asocie el miedo con la singularidad, es decir, con la pérdida de control humano en la aceleración de la automejora de la IA, no es esa la única ni necesariamente la principal preocupación entre los expertos.

Al momento de escribir estas líneas, los miedos más tangibles entre la comunidad científica son el posible uso malicioso de la capacidad de la IA existente y los errores involuntarios en los procesos de control y alineación. Esto no quiere decir que en un futuro no muy lejano la singularidad adquiera un protagonismo mayor en el mapa de los miedos. Sin embargo, antes debemos preguntarnos ¿una IA controlada por humanos es una IA más segura para la humanidad? La respuesta es no necesariamente.

La IA hoy es usada por humanos para afectar a otros humanos, ya sea para calumniarlos, confundirlos, estafarlos, volverlos tecnoadictos o, incluso, matarlos, como ocurre con los sistemas militares de Estados Unidos usados contra Irán, o los de Israel contra Palestina. Tal vez, en estos momentos, deberíamos reorientar el radar de nuestras preocupaciones hacia el uso humano pernicioso de una IA cada vez más potente.

Como adelanté al inicio, hay otro miedo que viene más de la rivalidad entre humanos que de la posible autonomía absoluta de las máquinas, y es perder la preponderancia tecnológica. Y aquí Pekín se asoma como una amenaza para Washington. El Índice de IA 2026 de la Universidad de Stanford concluye que la distancia entre los mejores modelos estadounidenses y chinos es ínfima. Estados Unidos mantiene la ventaja en volumen de inversión, diseño de modelos de frontera (es decir, de vanguardia) y cantidad de centros de datos. No obstante, China se ha adelantado ya en el número de publicaciones científicas (o sea, producción de conocimiento), volumen de registro de patentes e instalación de robots industriales.

La constatación de una competencia real y claramente cerrada nos conduce a reconsiderar el mapa de los miedos. Para los que temen una IA fuera del control humano, pisar el acelerador resulta muy peligroso. Pero para quienes creen que China puede ganar esta carrera, lo más peligroso es meter el freno. Ambas visiones tiran en direcciones contrarias y conviven en el ecosistema tecnológico estadounidense.

Una vez hecho el ajuste en el enfoque, surge otra pregunta: ¿para qué y a quién sirve el miedo a una IA cada vez más autónoma? Detrás del temor está la idea de una IA cada vez más potente. Y una IA cada vez más potente se vuelve un poderoso imán para los inversionistas a quienes les entra una especie de FOMO (en español, miedo a quedarse fuera). Dado que esta tecnología puede cambiarlo todo, y si no invierten ahora sus competidores lo harán, sienten que tienen que aprovechar el momento e inyectar sus recursos en un ecosistema que está creciendo en capacidad.

Ojo: no es que los inversionistas apuesten por una tecnología que “puede destruir a la humanidad”, más bien es el temor a quedarse fuera de algo grande y potencialmente muy rentable. Tampoco quiere decir necesariamente que el miedo y su resonancia formen parte de una campaña orquestada por las principales empresas vinculadas al desarrollo de IA. Lo que afirmo es que el miedo pone el foco en las capacidades crecientes de la IA y que eso ayuda a atraer más inversión.

Anthropic, desarrolladora de Claude, nos ofrece un ejemplo sumamente ilustrativo. En junio pasado, la empresa presentó de forma confidencial ante la Comisión de Bolsa y Valores de Estados Unidos la documentación previa para su posible salida a bolsa. A fines de septiembre Reuters dio a conocer que la compañía considera que la salida a bolsa podría valorarla en dos billones de dólares con compromisos de gasto y obligaciones contractuales de inversión en infraestructura y capacidad de cómputo de poco más de medio billón de dólares.

Y aquí viene lo mejor: en la misma documentación, la empresa reconoce la posibilidad de riesgos “catastróficos o existenciales” derivados del desarrollo de sistemas avanzados de IA. Una paradoja cuando menos llamativa. Por cierto, Anthropic es la compañía a la que Jacob Coxon renunció en septiembre al considerar que, al igual que OpenAI, actúa de forma irresponsable por no mitigar los peligros de una IA más potente. Está claro que las altas expectativas, el miedo y la atracción de capital conviven en el modelo de negocio de la IA.

Ahora bien, hay que ser cuidadosos a la hora de identificar las caídas en bolsa registradas en septiembre como consecuencia directa del temor detonado por Coxon y otras voces respecto a una IA más potente y sin control. Lo que ocurrió fue una reacción a la declaración de los grandes jugadores de la IA sobre la necesidad de ralentizar el desarrollo para evitar riesgos. Esto nos lleva a una nueva pregunta: ¿la actual competencia dentro de la IA es sólo por recursos o también por influir en las reglas del juego?

La cuestión de las normas se ha vuelto muy interesante. Hace unos días Donald Trump juntó en la Casa Blanca a los miembros de la “tecnoligarquIA” estadounidense. El resultado anunciado de la reunión fue un acuerdo voluntario de seguridad que contempla evaluaciones “independientes” de los sistemas de IA. No obstante, Trump también aprovechó para impulsar una expansión más rápida de los centros de datos que dan soporte a dichos sistemas. Es decir, al mismo tiempo que la élite política y tecnológica de Estados Unidos discutió cómo controlar los riesgos de la IA, habló sobre cómo acelerarla.

La paradoja nos conduce a un problema clásico de conflicto de interés: los jugadores que poseen el conocimiento que el gobierno requiere para regular la tecnología que desarrollan son, al mismo tiempo, los jugadores que tienen más dinero en juego por la regulación. La propia Comisión Federal de Comercio de Estados Unidos ha advertido lo evidente: la alianza entre los grandes proveedores de los servicios de nube y data y los grandes desarrolladores de IA puede conducir a que se eleven los precios, se condicione el acceso a la capacidad de cómputo y talento y se obstaculice la competencia de nuevos jugadores. En pocas palabras, un juego oligopólico que podría poner límites al desarrollo chino.

Y aquí vale preguntarnos ¿qué significa en verdad ganar la carrera de la IA? Lo primero es reconocer que no existe una meta clara ni un momento definido en el que un competidor pueda levantar la mano en señal de triunfo. No funciona así. Es posible liderar en ciertas áreas, pero en otras correr en segundo lugar. Incluso, en las áreas de ventaja actual se puede perder terreno mañana. Lo que Washington entiende por triunfo en esta carrera es poseer el mayor ecosistema tecnológico, dictar los estándares y las reglas mundiales y capturar la mayor cantidad de los beneficios económicos y militares de la IA. Vino viejo en copa nueva. El problema para Estados Unidos es que, desde esa perspectiva, China deja de ser sólo un competidor para convertirse en el parámetro contra el que la potencia americana evalúa su propia posición. Y éste es, quizás, el miedo detrás del miedo.

Vamos cerrando el círculo: ¿qué es, entonces, lo más peligroso de la carrera por una mejor IA: la meta o la carrera en sí? Si consideramos que para poder desarrollar una IA exponencialmente más capaz que la que hoy se tiene se requiere más energía, más agua, más recursos minerales, más inversiones, más infraestructura para una industria que, aunque se diga poco, genera un gran impacto en el medio ambiente, la respuesta, a mi juicio, es que hoy el riesgo más palpable está en la carrera y no en la meta. El desarrollo de IA puede agravar sustancialmente los problemas ecosistémicos planetarios que ya enfrentamos, además de plantear riesgos para el desarrollo y el trabajo humanos y aumentar las posibilidades de uso pernicioso de la tecnología.

Así llegamos a las dos últimas preguntas que considero debemos hacernos: ¿seremos capaces como comunidad internacional de diseñar instituciones que mitiguen el auténtico riesgo tecnológico de la IA, potencien sus beneficios sociales y eviten que quienes poseen la tecnología se consoliden como el oligopolio más poderoso en la historia de la humanidad? Y ¿podremos hacerlo sin que la rivalidad entre Estados Unidos y China convierta cualquier medida de prudencia necesaria en una desventaja que ninguno de los dos quiera asumir?