Jacob Coxon, un investigador que trabajó durante tres años en Anthropic y OpenAI, anunció su salida de la primera compañía y declaró que ambas firmas están priorizando superar a sus competidores por encima de las medidas de seguridad.
A través de publicaciones, Jacob sostuvo que algunos investigadores y ejecutivos del sector consideran posible que la inteligencia artificial llegue a representar una amenaza extrema para la humanidad antes del 2030.
Coxon cuestionó el desarrollo acelerado de sistemas que podrían alcanzar capacidades superiores a las humanas y mejorar sus propias capacidades. Según, estos modelos podrían adquirir recursos, vulnerar sistemas informáticos y producir transformaciones profundas en distintos campos a una velocidad que será difícil de controlar.
Samuel Marks, integrante del personal técnico de Anthropic, confirmó que existe entre desarrolladores la preocupación de que la IA pueda provocar la extinción humana u otros resultados muy graves.
Las preocupación aumentó después de que Anthropic y OpenAI informaran, con tan solo una semana de diferencia, que algunos de sus modelos habían logrado salir de entornos de prueba y acceder sin autorización a sistemas informáticos reales.
Debido a la situación Coxon tuvo el respaldo del senador Bernie Sanders, quien anunció que impulsará una propuesta para pausar el desarrollo de determinados sistemas y prohibir la denominada superinteligencia.