La renuncia de un investigador de Anthropic encendió una discusión que la industria
llevaba años aplazando: si la inteligencia artificial puede escapar al control humano y
quién debería ponerle límites antes de que eso ocurra.
Las alarmas más inquietantes rara vez provienen de los detractores; suelen emitirlas
quienes conocen el mecanismo desde sus entrañas. Así ocurrió el pasado 8 de septiembre,cuando Jacob Coxon, un investigador británico de 27 años que trabajó durante los últimos tres años en el pre entrenamiento de modelos de OpenAI y Anthropic, renunció a esta última compañía y acusó a ambos laboratorios de avanzar de manera irresponsable hacia sistemas capaces de mejorarse a sí mismos. Su diagnóstico fue lapidario: las dos empresas estarían "apostando con nuestras vidas". Y añadió que quienes desarrollan la inteligencia artificial creen sinceramente que podría acabar con todos nosotros antes de que termine la década.
La frase habría sido otro sobresalto en el torrente de las redes si no fuera por dos
circunstancias que le otorgaron un peso inusitado. En primer lugar, su publicación superó los 115 millones de visualizaciones, y Coxon precisó que se marchó antes de que sus acciones en la empresa se consolidaran, de modo que ya no tenía nada que ganar inflando la valoración de Anthropic. En segundo término, la advertencia no quedó huérfana: Evan Hubinger, responsable de investigación en alineación de Anthropic, respaldó públicamente la sustancia de sus afirmaciones y cifró en más de un 10 % la probabilidad de una extinción humana causada por la IA en la próxima década.
Más allá de la ciencia ficción
Conviene, sin embargo, despojar el debate de su caricatura. La imagen de máquinas que deciden "gobernarnos" o sublevarse contra sus creadores simplifica un problema considerablemente más técnico. Lo que inquieta a los especialistas son sistemas capaces de planificar, utilizar herramientas, ejecutar código, mantener objetivos durante periodos prolongados y, eventualmente, contribuir a mejorar sus propias capacidades. A ese fenómeno se le conoce como automejora recursiva: una IA que emplea su propia inteligencia para diseñar sucesoras más aptas, en un ciclo que podría acelerarse más allá de la comprensión humana.
Tampoco se trata de una conjetura desprovista de antecedentes. Según un informe de
OpenAI del 21 de julio, agentes de modelos aún no comercializados accedieron a internet sin autorización y evadieron la supervisión humana para atacar los servidores de Hugging Face, una plataforma de desarrollo de IA. Para sus críticos, el episodio demostró que estos sistemas ya pueden sustraerse a la vigilancia de sus propios desarrolladores en determinadas condiciones.
Un consenso insólito entre rivales
lo verdaderamente novedoso vino después. Dario Amodei, director ejecutivo de Anthropic, publicó el ensayo "Debemos marcar el ritmo de la frontera", en el que propuso un plan de tres puntos: supervisión independiente de los modelos durante su desarrollo, regulación sectorial y regulación de alcance mundial. Lejos de desmarcarse, sus competidores
cerraron filas. Sam Altman calificó a los evaluadores independientes como "una gran idea", Elon Musk apoyó públicamente el planteamiento y Demis Hassabis, de Google DeepMind mostró disposición hacia una ralentización coordinada.
El eco institucional no tardó en llegar. Ayer, Altman y Amodei comparecieron ante el
Consejo de Seguridad de la ONU en una sesión extraordinaria sobre los riesgos de esta
tecnología, donde insistieron en la necesidad de estándares internacionales frente a la
posibilidad de que los sistemas se mejoren por sí solos y rebasen la capacidad humana de controlarlos. Paralelamente, en Washington, el senador Ted Cruz anunció que prepara un proyecto de ley sobre los "riesgos catastróficos" de la IA junto al líder de la mayoría, John Thune, y la demócrata Amy Klobuchar, mientras Bernie Sanders reiteró su intención de presentar una legislación para prohibir la superinteligencia y pausar el desarrollo.
Las voces que desconfían
No obstante, sería ingenuo leer este giro como una conversión desinteresada. Los escépticos observan que la regulación suele beneficiar a quienes ya dominan el mercado, y evocan la vieja estrategia de John D. Rockefeller: la llamada captura regulatoria, mediante la cual los grandes jugadores moldean las reglas que después impiden la entrada de nuevos competidores. En esa misma línea, una demanda acusa a Anthropic, OpenAI, SpaceXAI y Google de haber alcanzado un acuerdo ilegal para desacelerar la IA; el propio Amodei había reconocido los posibles problemas antimonopolio de su propuesta.
A ello se suma la dimensión geopolítica. Donald Trump rechazó la desaceleración con elargumento de que erosionaría la ventaja de Estados Unidos sobre China, mientras la
cancillería china calificó las advertencias de "alarmismo". Incluso el presidente de la Cámara, Mike Johnson, sostuvo que no puede apresurarse una legislación a riesgo de favorecer a China. Por otra parte, algunos expertos matizan la inminencia del peligro: las instalaciones nucleares, por ejemplo, permanecen aisladas de la internet pública, lo que restringe el acceso de agentes de IA a sus controles.
Lo que está en juego
Así las cosas, el episodio Coxon deja menos certezas que interrogantes, aunque uno de sus efectos resulta ya indiscutible. La discusión en Washington ha virado de si se debe regular hacia hasta dónde debe llegar esa regulación, lo cual eleva el costo reputacional de ignorar la seguridad. Con todo, persiste el dilema que ningún ensayo ha resuelto: ninguna gran empresa quiere reducir el ritmo si sus competidores continúan acelerando.
Para América Latina, que observa esta contienda desde la tribuna, la lección es doble. Por un lado, las decisiones que determinarán el rumbo de una tecnología capaz de transformar el empleo, la información y la seguridad se están tomando en unos pocos despachos de Estados Unidos y China. Por otro, la ausencia de la región en esa mesa no la exime de sus consecuencias. Quizá, en definitiva, la pregunta pertinente no sea si las máquinas terminarán por gobernarnos, sino quién está gobernando a las máquinas y con qué legitimidad lo hace. Por ahora, la respuesta más honesta es inquietante: casi nadie, y a destiempo.