LECTURA: 6 MIN
Anthropic, la empresa que creó Claude, hizo algo insólito esta semana: propuso una pausa global en el desarrollo de los sistemas de IA más potentes, ante los indicios de que los modelos más recientes podrían escapar del control humano. El comunicado, publicado el 4 de junio y firmado por Marina Favaro y Jack Clark, no es un meme catastrofista ni un guion de Black Mirror. Es una empresa de la industria diciendo, con membrete oficial, que tal vez convenga apretar el freno.
¿Y qué hacemos nosotras con esto?
Porque lo primero que conviene aclarar: cuando una de las compañías líderes pide que el mundo desacelere, no lo hace por bondad. Lo hace porque la carrera la está dejando sin guion.
Qué dijeron exactamente
El planteo de Anthropic tiene un nombre técnico que vale la pena nombrar: automejora recursiva. Es la capacidad de un sistema de modificar y mejorar su propio código de forma independiente, ampliando sus capacidades sin intervención humana. En criollo: una máquina que se reescribe sola, cada vez mejor, sin que nadie la mire.
La empresa sostiene que los modelos actuales se están acercando a ese umbral teórico, aunque aclara que todavía no lo cruzaron y que no es inevitable que lo hagan. Jack Clark puso una fecha que incomoda: algunos modelos podrían alcanzar esa capacidad dentro de dos años.
Y acá está el dato que más nos interesa señalar. No es teoría de laboratorio: dentro de la propia Anthropic, más del 80% del código que se fusiona en la base de la empresa ya es escrito por Claude. La IA ya está construyendo IA.
No se trata de si la máquina piensa. Se trata de quién decide, con qué criterio y a costa de quiénes.
— ÁTOMA
¿Sabías que?
La idea no nació la semana pasada. El matemático I.J. Good la describió en 1965: si construís una máquina más inteligente que vos, esa máquina puede construir una todavía mejor, y así arrancás una espiral que se acelera sola. La llamó "explosión de inteligencia". Sesenta años después, una empresa de San Francisco la pone en un comunicado de prensa.
La trampa de la pausa
Acá viene la contradicción que no queremos esquivar. Anthropic admite el problema de fondo: una pausa de una sola empresa no sirve para nada. Lograr una suspensión real significaría que múltiples colosos de la IA en varios países, principalmente en China y Estados Unidos, acuerden detenerse de manera unánime, bajo reglas que todos puedan verificar. Si frena una sola, sus rivales podrían simplemente adelantarse en la carrera.
¿Notan el movimiento? La empresa traslada la responsabilidad a un "acuerdo global" que sabe perfectamente que no existe. Es como pedir que todos dejen de competir mientras se sigue compitiendo. Pide la pausa y, al mismo tiempo, sigue entrenando.
Y mientras tanto, ¿quién está sentado en esa mesa donde supuestamente se decidiría el freno? Estados Unidos y China. Las mismas dos potencias de siempre. El Sur global, las redes feministas de tecnología, las trabajadoras culturales, las comunidades que ya sufren los sesgos de estos sistemas: nadie de eso aparece en el comunicado.
La conversación sobre el "riesgo existencial" de la IA tiene una función política curiosa: nos hace mirar a un futuro de robots rebeldes y nos distrae de los daños que ya están pasando hoy. El trabajo precarizado que entrena estos modelos. Los datos extraídos sin consentimiento. La automatización que ya está desplazando empleos —incluido el de programadoras, según los propios números de Anthropic.
Para seguir
Si querés ir a la fuente: el comunicado original de Anthropic se titula "When AI builds itself" y está firmado por Favaro y Clark. Vale leerlo con lupa y preguntarse qué dice y qué calla. La cobertura de AFP del 8 de junio da un buen resumen de la postura oficial.
Qué podemos hacer
No somos espectadoras de esta conversación, aunque la industria prefiera que lo seamos. Desde Átoma proponemos algunas líneas concretas:
Desplazar la pregunta. Dejar de discutir solo "¿la IA nos va a superar?" y empezar a preguntar "¿quién gana y quién pierde con cada modelo que se entrena?". El riesgo no es abstracto ni futuro: es material y presente.
Exigir asientos en la mesa. Una pausa decidida entre dos potencias no es gobernanza global, es geopolítica disfrazada. Sumemos las redes feministas de tecnología, los marcos decoloniales y las voces del Sur global a cualquier discusión sobre regular la IA.
No comprar el relato de la inevitabilidad. Anthropic misma dice que cruzar ese umbral no es inevitable. Si no es inevitable, es político. Y si es político, se disputa.
Sostener el criterio en nuestro propio uso. Seguir usando estas herramientas con perspectiva, nombrando sus contradicciones, sin convertirnos en altavoces acríticos de las empresas que las venden.
La IA pidió que la frenen. La pregunta de fondo no es si vamos a hacerlo, sino quién va a tener el poder de decidirlo. Y esa, compañeras, sí es una conversación que nos toca.
Tecnología con criterio. IA con perspectiva.
