Jacob Coxon cuestionó a Anthropic y OpenAI por competir en el desarrollo de una superinteligencia sin contar, según sostiene, con mecanismos suficientes para garantizar que estos sistemas permanezcan bajo control humano.
Jacob Coxon, investigador especializado en el entrenamiento de modelos de inteligencia artificial, anunció su renuncia a Anthropic y lanzó una seria advertencia sobre los riesgos que observa en la carrera tecnológica que mantienen las principales compañías del sector.
“Renuncié a Anthropic hoy. Pasé los últimos tres años investigando el preentrenamiento tanto en O penAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable”, escribió Coxon en su cuenta de X.
El especialista cuestionó que ambas empresas continúen avanzando hacia sistemas cada vez más poderosos y capaces de mejorar sus propias capacidades con una intervención humana progresivamente menor. Según afirmó, están “compitiendo directamente por alcanzar una superinteligencia que se mejore a sí misma y apostando con nuestras vidas”.
“Podría matarnos antes de que termine la década”
Coxon aseguró que entre quienes trabajan directamente en el desarrollo de estos sistemas existiría una preocupación mucho mayor de la que se transmite públicamente.
“Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que termine la década”, señaló.
De acuerdo con el investigador, algunos ejecutivos moderarían sus declaraciones frente a los medios, mientras que internamente existirían temores más graves sobre las consecuencias que podría generar una inteligencia artificial mucho más avanzada.
Coxon también cuestionó que decisiones con posibles efectos para toda la humanidad permanezcan concentradas en un reducido grupo de empresas y especialistas.
Diferencias entre Anthropic y OpenAI
El investigador también marcó diferencias entre sus dos antiguos empleadores. Según sostuvo, muchos trabajadores de OpenAI todavía no habrían asumido plenamente la magnitud de estos riesgos, mientras que en Anthropic existiría una mayor conciencia sobre el problema.
Sin embargo, afirmó que Anthropic continúa desarrollando sistemas cada vez más capaces debido a la presión competitiva por alcanzar primero una inteligencia artificial superior.
Otro investigador respalda la advertencia
Las declaraciones de Coxon fueron respaldadas por Evan Hubinger, investigador de Anthropic especializado en alineamiento de inteligencia artificial.
“Realmente creemos que la IA podría matar a todos los seres humanos. Personalmente, considero que la probabilidad es superior al 10% durante la próxima década”, escribió Hubinger en X.
El especialista aclaró que no considera especialmente peligrosos a los modelos disponibles actualmente. Su preocupación se concentra en una eventual superinteligencia desarrollada mediante procesos de “automejora recursiva”, en los que una IA podría contribuir a crear sistemas sucesivamente más capaces.
Hubinger reconoció que Anthropic viene trabajando en seguridad y alineamiento, pero advirtió que todavía no existe un método capaz de garantizar que una futura superinteligencia actúe conforme a los intereses y valores humanos.
El porcentaje mencionado por Hubinger constituye una estimación personal y no una probabilidad científicamente demostrada. Sin embargo, las advertencias de ambos investigadores vuelven a alimentar el debate sobre los límites que deberían establecerse mientras las grandes compañías tecnológicas compiten por desarrollar sistemas de inteligencia artificial cada vez más avanzados.