Un joven ingeniero abandona una de las empresas punteras del sector denunciando que la carrera por lograr una «superinteligencia» autónoma escapa a cualquier control. Y lo más inquietante: sus superiores le dan la razón.
El debate sobre los límites de la Inteligencia Artificial acaba de dar un giro vertiginoso desde dentro de las propias oficinas donde se diseña el futuro. Ya no hablamos solo del robo de derechos de autor, la avalancha de deepfakes o el impacto directo en el mercado laboral. El miedo que ha empezado a filtrarse por las grietas de Silicon Valley tiene un tono mucho más oscuro: el de la pura y simple supervivencia de la especie humana.
El último en dar un golpe sobre la mesa ha sido Jacob Coxon, un ingeniero de software de 27 años. Tras pasar el último trienio en las entrañas de OpenAI y Anthropic —las dos grandes joyas de la corona tecnológica en esta materia—, ha decidido marcharse dando un sonoro portazo. En una explosiva carta publicada en la red social X, Coxon acusa a los gigantes del sector de actuar de forma irresponsable en una carrera ciega por alcanzar una superinteligencia «auto-mejorante»; es decir, máquinas capaces de reescribir su propio código y evolucionar sin apenas intervención humana.
«Están jugando con nuestras vidas», alerta el desarrollador, al que se vincula estrechamente con la gestación de modelos como GPT-4o. Según Coxon, la sociedad no debería subestimar la velocidad a la que avanza todo esto. Advierte que pronto veremos sistemas sobrehumanos con capacidad para hackear cualquier infraestructura de la noche a la mañana y acaparar recursos reales a nivel global.
Pero el dardo más envenenado de su despedida apunta directamente a la hipocresía corporativa. Según el ingeniero, el discurso tranquilizador que los directivos venden a la prensa es una simple fachada. «Las personas que están construyendo la IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing«, asegura sin rodeos. En privado, insiste, los mismos investigadores que piden calma ante los micrófonos confiesan su terror ante una tecnología que, a su juicio, supone un peligro sin precedentes en la historia.
El miedo, confirmado desde la cúpula
Lejos de ser tachado de alarmista o de empleado despechado, el aviso de Coxon ha encontrado un eco escalofriante en la propia dirección de la empresa que acaba de abandonar. Evan Hubinger, el jefe científico de «alineación» de Anthropic —el departamento responsable, precisamente, de asegurar que la IA no se vuelva contra sus creadores—, ha salido a la palestra para respaldarlo con una frase lapidaria: «Jacob tiene razón».
Aunque Hubinger intenta poner paños calientes rebajando la probabilidad de un apocalipsis a «menos del 10% en la próxima década», su confesión posterior no deja mucho lugar a la tranquilidad. Admite abiertamente que, a día de hoy, Anthropic no tiene un plan claro ni un camino definido para controlar esa futura superinteligencia, y reconoce con resignación que los avances están ocurriendo «más rápido de lo que pensábamos».
El terreno ya venía abonado para el pesimismo. Hace apenas un par de meses, el propio CEO de Anthropic, Darío Amodei, publicaba un extenso ensayo en el que advertía del poder «casi inimaginable» de la IA. Reconocía en sus páginas que la sabiduría institucional y política de nuestra sociedad va varios pasos por detrás de la tecnología, mostrándose incapaz de gestionar una herramienta que podría comprimir un siglo de progreso científico en una sola década.
De hecho, los sustos ya han empezado a materializarse y a levantar suspicacias en el Gobierno de Estados Unidos. El modelo ‘Mythos’ de la compañía tuvo que ser puesto en cuarentena recientemente tras detectarse graves vulnerabilidades en sistemas, servidores y software de todo el mundo. El código tuvo que ser enviado de urgencia a bancos, aseguradoras y otras tecnológicas para parchear errores que, de haber caído en malas manos, habrían convertido la herramienta en una especie de arma de destrucción masiva informática.
La renuncia de Coxon deja flotando en el ambiente una pregunta muy incómoda para una industria cegada por la urgencia de llegar la primera a la meta: si los arquitectos del futuro confiesan en voz baja que el edificio podría derrumbarnos encima a todos, ¿por qué nadie se decide a pisar el freno?
