Meta anunció el jueves que eliminó dos videos generados con inteligencia artificial que involucraban a dos mujeres, entre ellas una política británica, después de que el Consejo de Supervisión de la compañía considerara “insuficientes” las medidas de protección frente al contenido manipulado con IA.
El Consejo de Supervisión, un órgano cuasi independiente financiado por Meta, señaló que ambos casos contravenían las propias normas de la compañía sobre incitación al odio, desinformación y acoso.
El primer video muestra a una concejala del Partido Laborista en Escocia haciendo comentarios incendiarios sobre los refugiados. No existe ningún registro público de que haya realizado esas declaraciones y algunos detalles del material indican que fue manipulado, entre ellos la falta de sincronización labial.
El segundo video busca desacreditar a una activista musulmana y su labor como educadora en salud. En las imágenes aparece consumiendo alimentos ultraprocesados mientras ofrece consejos dietéticos y realiza ejercicios absurdos.
El Consejo de Supervisión sostuvo que las normas de Meta eran “sistemática y fundamentalmente insuficientes” para hacer frente al flujo constante de contenido generado con IA en plataformas como Facebook e Instagram.
“Estos casos ilustran un patrón más amplio y preocupante en el que las mujeres que se pronuncian públicamente sobre temas sociales son blanco desproporcionado de acoso y desinformación”, declaró la copresidenta del consejo, Pamela San Martin.
La empresa matriz de Facebook anunció que acataría la decisión en un plazo de siete días. Meta está obligada a cumplir las decisiones del Consejo de Supervisión, pero no sus recomendaciones.
“Meta, al igual que otras plataformas de redes sociales, necesita normas sólidas para abordar la proliferación de deepfakes (imágenes, videos o audios manipulados con IA para aparentar de forma realista algo que no ocurrió)”, insistió San Martin.
Entre las medidas propuestas, mencionó “una postura mucho más estricta respecto al etiquetado de contenidos engañosos, sanciones más severas para los reincidentes y la eliminación de los deepfakes destinados a acosar a personas”.
La semana pasada, el Consejo de Supervisión recomendó que Meta no sustituyera su servicio profesional de verificación de datos por notas de la comunidad, un sistema participativo popularizado por X, la plataforma del multimillonario Elon Musk.
La recomendación se produjo después de que Meta anunciara que había comenzado a probar las notas de la comunidad en 16 países hispanohablantes de Latinoamérica.
La AFP actualmente trabaja en 26 idiomas con el programa global de verificación de datos de Meta, incluida América Latina.