La advertencia lanzada por el investigador Jacob Coxon tras su salida de Anthropic sigue generando debate en la industria tecnológica. El exingeniero, que trabajó en proyectos de entrenamiento de inteligencia artificial tanto en Anthropic como en OpenAI, aseguró que las personas que desarrollan los modelos más avanzados creen que la tecnología podría representar un riesgo existencial para la humanidad antes de que termine la década.
Las declaraciones cobraron aún más relevancia después de que otros investigadores vinculados a Anthropic publicaran mensajes respaldando parte de esas preocupaciones. Entre ellos está Samuel Marks, líder de supervisión escalable de la compañía, quien aclaró que hablaba a título personal y no en representación de su empleador.
¿Qué dijo el exinvestigador que renunció a Anthropic?
Jacob Coxon anunció su renuncia mediante una serie de publicaciones en la red social X. Allí afirmó que, tras tres años trabajando en investigación relacionada con el entrenamiento de modelos de IA, llegó a la conclusión de que las principales empresas del sector están avanzando con demasiada rapidez hacia sistemas cada vez más potentes. Según Coxon, OpenAI y Anthropic estarían compitiendo para desarrollar sistemas de inteligencia artificial capaces de mejorar por sí mismos su desempeño, un escenario que algunos investigadores denominan "superinteligencia auto-mejorable". El exingeniero sostuvo que este proceso implica riesgos que todavía no tienen una solución clara.
En sus mensajes, aseguró que los propios desarrolladores creen que estos sistemas podrían llegar a superar ampliamente las capacidades humanas en áreas como programación, investigación científica, análisis estratégico o ciberseguridad. "Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década", recalcó.
Samuel Marks: “Los desarrolladores de IA creen que podría causar la extinción humana”
Tras la publicación de Coxon, Samuel Marks compartió una extensa reflexión en la que describió lo que considera el estado actual del debate sobre la seguridad de la inteligencia artificial. Marks afirmó que muchos desarrolladores de IA creen que la tecnología "podría causar la extinción humana o resultados igualmente graves" y que ese escenario podría materializarse durante los próximos años. También señaló que, dentro de las organizaciones, las preocupaciones suelen aumentar entre los empleados con más experiencia y cargos de mayor nivel.
El investigador explicó que, pese a esos temores, el desarrollo continúa debido a una combinación de intereses económicos y la percepción de que existe una carrera entre compañías. Según su planteamiento, algunas empresas consideran que reducir drásticamente el ritmo de avance podría dejar espacio para que otros actores desarrollen sistemas similares con menos controles o medidas de seguridad.
Uno de los puntos centrales planteados por Marks tiene que ver con el comportamiento de los modelos avanzados. De acuerdo con su explicación, la inteligencia artificial no funciona como el software tradicional, donde los programadores determinan cada paso que seguirá un sistema. En cambio, los modelos actuales aprenden patrones a partir de grandes volúmenes de datos y pueden mostrar comportamientos que no fueron programados de manera explícita.
[Writing this in a personal capacity, not on behalf of my employer (Anthropic).]
— Samuel Marks (@saprmarks) September 9, 2026
Jacob’s thread is very worth reading. Here’s my birds-eye view of the situation with risks from AI:
1. AI developers believe their technology could cause human extinction (or similarly bad… https://t.co/rCVoiOWWzm
Publicidad
Marks sostuvo que las empresas cuentan con herramientas para orientar el comportamiento de los modelos, pero considera que todavía no existe un método que garantice de forma robusta que sistemas mucho más avanzados actúen siempre conforme a los objetivos humanos. La discusión gira alrededor de un concepto conocido como “alineación”, que busca lograr que las futuras inteligencias artificiales persigan metas compatibles con los intereses humanos incluso cuando alcancen capacidades superiores.
Otro elemento que aparece tanto en las declaraciones de Coxon como en las de Marks es la idea de que la industria atraviesa una competencia acelerada. Coxon argumentó que varias empresas consideran necesario seguir avanzando porque creen que otros actores del sector no frenarán su desarrollo. Marks, por su parte, indicó que muchos empleados desearían contar con más tiempo para investigar mecanismos de seguridad antes de llevar los sistemas a niveles superiores de capacidad. Según el investigador, esa preocupación fue una de las razones que lo llevaron a apoyar iniciativas públicas que buscan impulsar debates sobre regulación y sobre el ritmo de desarrollo de la inteligencia artificial.
Publicidad
Las recientes declaraciones reflejan una situación poco habitual: investigadores activos y exinvestigadores de algunas de las compañías más importantes del sector expresando públicamente preocupaciones sobre la dirección que está tomando la tecnología.
Incluso Evan Hubinger, líder de ciencia de alineación en Anthropic, respaldó la idea de que existe un riesgo real asociado al desarrollo de sistemas de inteligencia artificial mucho más avanzados que los actuales. Aunque aclaró que considera bajo el riesgo de los modelos disponibles hoy, señaló que las preocupaciones se centran en futuras generaciones de sistemas capaces de mejorar sus propias capacidades sin intervención humana significativa.
Por ahora, el debate continúa abierto dentro de la industria tecnológica. Mientras las empresas desarrollan modelos cada vez más potentes, una parte de los propios investigadores insiste en que la carrera por alcanzar la próxima generación de inteligencia artificial plantea preguntas que todavía no tienen respuestas definitivas.
ÁNGELA URREA PARRA
NOTICIAS CARACOL