Viral

Adiós memes de odio, Facebook desarrolla Inteligencia Artificial para detectarlos y eliminar

Por Cassandra Moya
mayo 24, 2020

Facebook busca detectar el discurso de odio en memes, imágenes y videos.

El universo de los memes es tan amplio que el odio no podía estar fuera y en algunos casos llegan a ser agresivos y violentos, por lo que Facebook dijo “ya basta, hdlch” y ahora desarrolla inteligencia artificial (IA) para detectar y mandarlos a volar. 

Seguramente ya estás pensando “es de que nos están fiscalizando la comedia”, pero esto no es así. Pues Facebook informó que busca eliminar el discurso de odio que en algunos casos puede estar en los memes. 

“Lidiar con el discurso de odio es uno de los componentes más complejos e importantes de este trabajo. Para proteger mejor a las personas, contamos con herramientas de inteligencia artificial para detectar rápidamente, y a menudo de manera proactiva, este contenido”, señaló Facebook.

Aquí un ejemplo de meme con discurso de odio:

Adiós memes de odio Facebook

>>> Te puede interesar: Facebook prohíbe usar la palabra "tortillera"

Así como lo hace con publicaciones que tienen discurso de odio y que pueden ser bloqueadas por el algoritmo y denunciadas por los usuarios, ahora intenta conseguirlo con las imágenes (memes) a través de la IA.

Facebook reconoció que lo que intenta no es nada fácil, pues la IA deberá reconocer la imagen y el texto que se encuentre en ésta, lo cual puede ser ambiguo y estar abierto a interpretaciones hechas por la gente. 

“El contexto y las sutiles distinciones del lenguaje son clave. Las expresiones idiomáticas y los matices pueden variar ampliamente entre culturas, idiomas y regiones”. 

Además de esto, señaló que “Incluso los revisores humanos expertos a veces pueden tener dificultades para distinguir un comentario cruel de algo que cae bajo la definición de discurso de odio o perder un idioma que no se usa ampliamente”.

Feminazis para ser exacto

Posted by Memes De Patricio on Sunday, February 3, 2019

>>> Te puede interesar: ¿Qué es Lasso y por qué todos quieren usarlo?

Por lo que el desarrollo de esta inteligencia artificial ha sido trabajado durante años, para conjuntar texto e imágenes (fotos, memes, videos) y así detectar el discurso de odio que pudieran contener.

“Nuestras técnicas de detección incluyen coincidencia de texto e imagen, lo que significa que estamos identificando imágenes y cadenas de texto que son idénticas al contenido que ya se ha eliminado como discurso de odio. 

También utilizamos clasificadores de aprendizaje automático que analizan cosas como el texto en una publicación, así como las reacciones y comentarios, para evaluar qué tan cerca coincide con frases, patrones y ataques comunes”.

Cuando ya nomás te falta ser de la C.A. o ser jefe de comedor (Nota: esto no es un meme racista. Dile No, a los memes racistas)

Posted by Lo Que Callamos Las Ayudantías on Monday, April 13, 2020

Según destacó Facebook, lo que ahora pretende es invertir en la comprensión semántica del contenido para poder identificar el discurso de odio aunque éste intente ser engañoso.

“Continuamos mejorando nuestros clasificadores contextuales para el discurso de odio mediante la incorporación de un nuevo modelo de texto de dos transformadores y la comprensión de toda la entidad como características y mediante el uso de muestreo de sesgo para capturar más falsos negativos, entre otras actualizaciones recientes”.


Facebook clasifica como discurso de odio:

“Definimos el lenguaje que incita al odio como un ataque directo a personas según lo que llamamos características protegidas: raza, etnia, nacionalidad, religión, orientación sexual, casta, sexo, género, identidad de género y discapacidad o enfermedad grave”.

Por lo que su esfuerzo para que su inteligencia artificial detecte lo más pronto posible esto en memes, imágenes y videos garantice que ninguna persona será vulnerada al usar la plataforma.

Porque no, nadie te está censurando, y agredir a otras personas es violencia, sea con una publicación, un meme o video que te de risa.

Cassandra Moya

Soy un anacronismo y las selfies me hacen sentir parte del Siglo XXI.

@Cebrish