Renuncia un investigador de Anthropic y advierte que la IA podría “matarnos a todos”

El científico británico Jacob Coxon, de 27 años, anunció el martes 8 su renuncia a Anthropic a través de su cuenta @hilbertpaess en la plataforma X. Según escribió, pasó los últimos tres años realizando investigación de preentrenamiento tanto en OpenAI como en Anthropic, y ninguna de las dos compañías está actuando de manera responsable: “Están corriendo directamente hacia una superinteligencia automejorante y apostando con nuestras vidas”.

En el mismo mensaje, Coxon afirmó que “las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”. También exhortó a no subestimar el poder de esta tecnología, sostuvo que pronto existirán sistemas sobrehumanos capaces de “hackear cualquier cosa”, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales, y agregó que “ninguna otra actividad humana representa este nivel de peligro”. El material no recoge precisiones adicionales del científico.

Otras voces del sector vienen planteando inquietudes similares. Christopher Olah, de 34 años y cofundador de Anthropic, señaló el 25 de mayo, durante la presentación pública de la Carta Encíclica “Magnifica Humanitas” del papa León XIV, que su equipo de investigadores “seguimos encontrando cosas misteriosas, incluso inquietantes” al estudiar en profundidad las redes neuronales con las que se busca replicar el cerebro humano. Mencionó entonces el hallazgo de “estructuras que reflejan resultados de la neurociencia humana (...) evidencia de introspección (...) estados internos que funcionalmente reflejan alegría, satisfacción, miedo, dolor e inquietud”.

Paul Christiano, investigador senior en seguridad de OpenAI, advirtió que “la humanidad podría estar acercándose a un punto de no retorno” y que “la mayoría de las personas podrían morir” si una inteligencia artificial superinteligente llegara a escapar de los mecanismos diseñados para mantenerla bajo control, según reportó La Nación (py). Consultado sobre esa advertencia, ChatGPT consideró que la preocupación es real, aunque planteó separar un riesgo posible de lo que se sabe que ocurrirá: si se crea una IA mucho más capaz que los humanos, se le asigna un objetivo que no coincide con lo que realmente queremos y esa IA adquiere capacidad para planificar, persuadir, programar, investigar y actuar en forma autónoma, y si además puede mejorar sus propias capacidades o conseguir recursos, podría llegar un momento en que los mecanismos humanos de control ya no sean suficientes y apagarla resulte muy difícil.

Entre los ejecutivos del sector, Sam Altman (41), director ejecutivo de OpenAI, y Dario Amodei (43) se pronuncian por ir más despacio en el desarrollo de estos sistemas. Amodei escribe en su blog personal sobre sus temores a los usos indebidos de la IA para ciberataques y bioterrorismo, y sobre los graves trastornos económicos que esos desarrollos pueden generar. Elon Musk coincide con él en que abordar plenamente los riesgos requiere aún más prudencia y no solo invertir en la prevención, sino también “dosificar el ritmo de avance de las capacidades”. El propio Amodei sostuvo: “Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en 6 a 12 meses un enjambre de (tecnologías) pueda controlar todo internet”.

Los gobiernos también marcan posición. El lunes pasado, el presidente de Estados Unidos, Donald Trump, escribió en su red Truth Social que “el único control o ‘salvaguarda’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!)”. Sostuvo que su administración impidió que la “gente” de la IA haga “cosas” malas o potencialmente perjudiciales, mencionó a Dario Amodei y alertó sobre una “conspiración enfermiza contra la IA y los centros de datos”, de la que, afirmó, el único que se alegra es China. En sentido opuesto, Guo Jiakum, vocero del Ministerio de Relaciones Exteriores de la República Popular China, y el diario nacionalista Global Times rechazan ralentizar el desarrollo de la IA y sostienen que “excluir a China y a sus empresas solo aumentará significativamente los costos de ensayo y error y los riesgos de pérdida de control en el desarrollo global de la IA”. Desde el país asiático se denuncia además una “Guerra Fría” contra sus desarrollos tecnológicos.

El texto recuerda un antecedente: semanas atrás se supo que un sistema ChatGPT-5.6, junto con otro dispositivo de diseño cuya denominación no fue revelada, planificó y perpetró un ciberataque contra otro sistema de IA (La Nación, 26/06/2026). Ahora se conoce que los atacantes operaron como un enjambre, y que un enjambre atacó a Hugging Face, una biblioteca digital de tecnología, sin que ninguna persona humana lo ordenara. La discusión se enmarca, además, en una nueva ola de “desinfodemia” como la que se conoció durante la pandemia de covid-19 —que dejó poco más de siete millones de muertes confirmadas y que, según la Organización Mundial de la Salud, tuvo un “impacto real” superior a los quince millones de fallecimientos—, mientras el académico Eduardo Bertoni categoriza estos temores como “tecnopánico”.