Un exinvestigador de OpenAI renunció a dos millones de dólares para advertirnos que la IA podría acabar con la civilización. Ni profecía ni pánico: por qué vale la pena escucharlo, y qué deja afuera su alarma.
En abril de 2024, Daniel Kokotajlo hizo algo raro en Silicon Valley: se fue. Renunció a su puesto de investigador en OpenAI y, al negarse a firmar una cláusula que le prohibía criticar a la empresa, dejó atrás cerca de dos millones de dólares en acciones —buena parte de su patrimonio—. Prefirió poder hablar.
Y lo que dice es incómodo. Kokotajlo calcula en torno a un 70% la probabilidad de que el desarrollo actual de la IA termine en catástrofe. No habla de robots asesinos: habla de sistemas cuyo funcionamiento interno no entendemos del todo, capaces de ganarse nuestra confianza y desplazarnos sin que lo notemos. Desde su organización, el AI Futures Project, publicó dos escenarios: AI 2027, donde la carrera entre laboratorios termina mal, y AI 2040 (Plan A), una propuesta de moratoria global, transparencia obligatoria y reparto del poder tecnológico entre muchos países en lugar de unos pocos.
Su diagnóstico es preciso: nadie quiere frenar, porque si uno se detiene, el rival avanza. Un dilema del prisionero a escala planetaria, donde cada empresa cree que debe ganar la carrera para que no la gane alguien peor.
En ÁTOMA elegimos no leerlo ni como profecía ni como exageración. Que alguien resigne dos millones para poder hablar merece atención, no indiferencia. Pero atención crítica: una advertencia vale tanto por lo que dice como por lo que calla. Y hay una pregunta que estos relatos casi nunca se hacen: ¿el colapso de quién?
Kokotajlo anuncia un derrumbe económico cercano, cuando casi cualquier empleo pueda ser reemplazado. Pero desde América Latina, la precariedad, la informalidad y el desplazamiento laboral no son un futuro por venir: son presente cotidiano para millones. El «fin del trabajo» suena distinto cuando el trabajo nunca fue estable ni protegido.
Hay algo más. Alarmarse porque «quien controle la IA tenga más poder que cualquier gobierno» da por sentado que ese poder se juega lejos, en el norte. Desde la periferia, la concentración tecnológica no es una amenaza inédita: es la historia conocida de quién decide y quién obedece.
Y la lógica de la carrera —ganar antes de que gane el enemigo— tiene una forma reconocible: la misma épica competitiva que ordenó buena parte del siglo pasado. Nombrarla también es parte del trabajo.
No sabemos si Kokotajlo tiene razón; él mismo no es optimista sobre su plan. Pero su advertencia sirve menos como profecía y más como brújula: nos obliga a preguntar quién diseña estos sistemas, con qué apuro y para beneficio de quién. Ese fuego se puede encender de muchas maneras. La pregunta no es solo si nos quema, sino en manos de quién está la mecha.
