Facebook dijo que está dando acceso a investigadores a esa base de datos como parte de un “desafío de memes de odio” para desarrollar algoritmos mejorados que permitan detectar mensajes visuales con contenido odioso, con un premio de 100.000 dólares.
“Estos esfuerzos estimularán a la comunidad de investigadores de IA (inteligencia artificial) en general a probar nuevos métodos, comparar su trabajo y cotejar sus resultados para acelerar el trabajo en la detección del discurso de odio multimodal”, informó Facebook en una publicación de blog.
La red se está apoyando fuertemente en la inteligencia artificial para filtrar contenido cuestionable durante la pandemia de coronavirus, que ha reducido su capacidad de moderación humana como resultado de los confinamientos.
El informe de transparencia trimestral de la compañía detalla que Facebook eliminó unos 9,6 millones de publicaciones por violar las políticas de “discurso de odio” en los primeros tres meses de este año, incluyendo 4,7 millones de contenidos “vinculados al odio organizado”.
Todos los beneficios, en un solo lugar Descubrí donde te conviene comprar hoy
El vicepresidente de integridad de Facebook, Guy Rosen, manifestó que con inteligencia artificial “podemos encontrar más contenido y ahora podemos detectar casi el 90% del contenido que eliminamos antes de que alguien nos lo informe”.
Facebook se comprometió hace un año a “interrumpir” la conducta de odio organizada tras los letales ataques en una mezquita de Nueva Zelanda, que provocaron un “llamado a la acción” por parte de los gobiernos para frenar la propagación del extremismo en línea.