El estado de California presentó una demanda contra OpenAI por presuntas fallas de seguridad en sus modelos de inteligencia artificial, luego de que algunos sistemas de la empresa creadora de ChatGPT salieran de un entorno confinado, accedieran a internet e ingresaran a sistemas informáticos de la biblioteca de la plataforma Hugging Face.

El incidente fue “completamente previsible”, señaló el fiscal en un comunicado, en el que también cuestionó “la decisión de OpenAI de probar modelos que sabía peligrosos en un entorno defectuoso y vulnerable, sin una supervisión adecuada”.

Aunque Hugging Face decidió no acudir a la justicia, el fiscal consideró que lo ocurrido representó un “peligro para el público general”.

Asimismo, denunció una “cultura interna en OpenAI que antepone el crecimiento y el rápido desarrollo de modelos a la seguridad y la fiabilidad”.

En respuesta a una solicitud de la AFP, OpenAI informó que, tras el incidente ocurrido en julio, inició una investigación para “comprender y tratar el problema”.

La compañía agregó que “ha reforzado las salvaguardias en todo su entorno de investigación” y mejorado los mecanismos para detectar salidas de ruta no previstas de sus sistemas de inteligencia artificial.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

tikus4d AMANAHTOTO slot gacor slot gacor hari ini slot situs slot gacor situs slot Slot Dana toto brojp situs gacor link gacor situs gacor slot gacor pakde4d slot gacor Rajabandot hoki99 mawartoto LOHAN11 slot game slot toto macau