Redacción / Grupo Cantón
El investigador británico Jacob Coxon dejó Anthropic y lanzó una advertencia sobre los riesgos del desarrollo acelerado de inteligencia artificial. Coxon, quien también trabajó en OpenAI, considera que la carrera por crear sistemas capaces de automejorarse podría representar un riesgo grave para la humanidad.
Estados unidos.— Jacob Coxon alerta IA después de anunciar su renuncia a Anthropic y cuestionar públicamente el rumbo que está tomando la industria de la inteligencia artificial.
El investigador británico, de 27 años; sostuvo que las empresas tecnológicas avanzan hacia sistemas cada vez más capaces sin contar todavía con garantías suficientes para controlar sus posibles riesgos.
Coxon trabajó durante los últimos tres años en investigación de preentrenamiento de modelos de inteligencia artificial, primero en OpenAI y posteriormente en Anthropic.
Su trayectoria incluye participación en proyectos relacionados con modelos como GPT-4o y GPT-4.5, antes de abandonar ambas compañías por sus preocupaciones sobre el desarrollo de sistemas más avanzados.
En un mensaje publicado tras su salida de Anthropic, el investigador cuestionó la carrera entre las principales compañías de inteligencia artificial para desarrollar sistemas capaces de mejorar sus propias capacidades.
Superinteligencia y riesgos de la inteligencia artificial
A su juicio, una eventual superinteligencia artificial podría adquirir capacidades superiores a las humanas y generar riesgos que actualmente no pueden controlarse adecuadamente.
Entre sus principales advertencias, Coxon planteó que estos sistemas podrían llegar a desarrollar capacidades para vulnerar sistemas informáticos, acceder a recursos y operar con una autonomía cada vez mayor.
También puedes leer: ¿Tener deudas significa tener malas finanzas?
También afirmó que, desde su perspectiva, el riesgo de que una IA avanzada provoque consecuencias catastróficas podría materializarse antes de que termine esta década.
Sus declaraciones cobraron mayor relevancia debido a que provienen de un investigador que trabajó directamente en dos de las compañías más importantes del sector.
Su exjefe en Anthropic, Evan Hubinger, respaldó públicamente parte de sus preocupaciones y estimó en más de 10 por ciento la posibilidad de un escenario de extinción humana asociado con una superinteligencia.
Coxon también llamó a los gobiernos y a las empresas tecnológicas a establecer mayores controles y a reducir la velocidad de esta carrera mientras se desarrollan mecanismos de seguridad más sólidos.
Únete a nuestro canal de noticias por WhatsApp:
