Jacob Coxon, joven investigador de Anthropic, anunció su salida de la compañía y lanzó una severa advertencia sobre los riesgos que, a su juicio, implica la carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados.
A través de una publicación en X, Coxon afirmó que algunos de los propios desarrolladores de estas tecnologías consideran en privado que existe la posibilidad de que la inteligencia artificial llegue a representar una amenaza extrema para la humanidad antes de que termine esta década.
TE PUEDE INTERESAR: ¡Saltillo puede ayudar! Emma quedó al cuidado de sus nietos y necesita un tanque de gas
El investigador cuestionó que decisiones con posibles consecuencias a escala global estén concentradas en un número reducido de empresas y personas, muchas de ellas inmersas en una competencia por desarrollar los sistemas más avanzados antes que sus rivales.
Coxon estableció una diferencia entre Anthropic y OpenAI. Según su perspectiva, dentro de OpenAI todavía existen personas que no han dimensionado completamente las consecuencias que podría tener esta tecnología, mientras que en Anthropic sí existe una mayor conciencia sobre el riesgo, aunque la empresa estaría igualmente atrapada en la carrera tecnológica.
El exinvestigador rechazó que sus declaraciones tengan como objetivo generar publicidad o atraer inversiones. Sostuvo que algunos directivos moderan públicamente sus advertencias para proyectar una imagen prudente, pese a que, en privado, ha escuchado expresar preocupaciones mucho mayores.
La advertencia se vuelve viral
Las declaraciones de Coxon rápidamente generaron una enorme reacción en redes sociales. En cuestión de horas, su publicación en X acumuló cerca de 50 millones de visualizaciones.
El interés ocurre en un momento de gran actividad en el desarrollo de inteligencia artificial, marcado durante las últimas semanas por avances en modelos cada vez más sofisticados, incidentes relacionados con sistemas autónomos y anuncios de nuevos descubrimientos científicos apoyados por esta tecnología.
A esto se suman las crecientes especulaciones sobre la llegada de sistemas capaces de alcanzar niveles de desempeño que hasta hace poco parecían fuera de alcance.
Su exjefe respalda la advertencia
La preocupación de Coxon también recibió el respaldo de Evan Hubinger, quien fue su jefe en Anthropic y está relacionado con la investigación en alineación de inteligencia artificial, disciplina enfocada en conseguir que los sistemas actúen de acuerdo con los objetivos establecidos por sus desarrolladores.
Hubinger aseguró públicamente que comparte la preocupación sobre un posible escenario de extinción y estimó que la probabilidad de que la IA provoque una catástrofe de escala global durante la próxima década podría superar el 10%.
No obstante, aclaró que considera bajo el riesgo asociado con los modelos actuales. Su principal preocupación está relacionada con el desarrollo de una eventual superinteligencia capaz de mejorar sus propias capacidades de manera recursiva, un proceso que, según explicó, estaría avanzando con mayor rapidez de la prevista.
Este escenario implicaría que modelos existentes pudieran participar en el entrenamiento y desarrollo de generaciones posteriores, acelerando el progreso tecnológico y reduciendo la intervención humana necesaria.
¿Qué es el “p doom”?
Dentro de la comunidad científica y tecnológica se utiliza el término “p doom” para referirse a la probabilidad estimada de que la inteligencia artificial desencadene una catástrofe sin precedentes para la humanidad.
La cifra superior al 10% planteada por Hubinger representa una estimación considerablemente alta frente a otras valoraciones sobre este riesgo.
Anthropic ha advertido anteriormente sobre los posibles peligros asociados con el desarrollo de sistemas avanzados de inteligencia artificial. Su director ejecutivo, Dario Amodei, también ha expresado preocupación por la velocidad con la que se aproxima este escenario.
“En 2026 estamos bastante más cerca del peligro real de lo que lo estábamos en 2023”, afirmó Amodei meses atrás.
Las declaraciones de Coxon y Hubinger vuelven a colocar en el centro del debate el dilema entre acelerar el desarrollo de la inteligencia artificial para aprovechar sus beneficios y establecer límites suficientes para evitar que una tecnología cada vez más autónoma termine representando un riesgo incontrolable.
¡NRT México ya tiene aplicación! Descárgala en la App Store o Play Store para mantenerte actualizado con las noticias más importantes de Coahuila y todo México.