El algoritmo de Facebook califica de contenido sexual inapropiado... unas cebollas
El algoritmo de Facebook responsable de detectar lo que ellos llaman "contenido sexual inapropiado" no solamente es criticado por sus sesgos, sino que a veces se equivoca estrepitosamente. En esta ocasión un montón de cebollas fueron marcadas como inapropiadas.
El algoritmos de Facebook califica de contenido sexual inapropiado... una cesta de cebollas
El algoritmo de Facebook responsable de detectar lo que ellos llaman "contenido sexual inapropiado" no solamente es criticado por sus sesgos, sino que a veces se equivoca estrepitosamente. En esta ocasión un montón de cebollas fueron marcadas como inapropiadas.
El algoritmos de Facebook califica de contenido sexual inapropiado... una cesta de cebollas
El algoritmo de Facebook lo ha vuelto a hacer: si en otras ocasiones se consideró el envío de emojis de berenjena como solicitud sexual, censuró fotos de madres amamantando a sus hijos o incluso borró la publicación del famoso cuadro de Coubert El origen del mundo -aunque se saldó con final feliz para el usuario-, esta vez ha filtrado como contenido inapropiado una inocente cesta de cebollas.
Gaze Seed Company intentó anunciarse en Facebook usando una imagen de una pila de cebollas en una canasta para comercializar sus semillas, según informó la CBC, pero fue bloqueado por el algoritmo de Facebook. ¿La razón oficial? Los algoritmos de Facebook decidieron que la imagen estaba "abiertamente sexualizada". Además de las bromas que originó este error, se trata de una muestra más de lo poco preparada que está la Inteligencia Artificial para asumir la moderación de contenido, al menos sin revisión humana.
Publicación categorizada como inapropiada por el algoritmo de Facebook
Desafortunadamente, la publicación de Gaze Seed Company no aclaró qué pasa exactamente con las cebollas, que el anuncio describe como "extremadamente dulces, suaves y grandes", o su posición fue "abiertamente sexualizada" como afirma Facebook.
"Nos notificaron el otro día que era una 'imagen abiertamente sexual' que tenían que prohibir en el sitio", dijo el gerente de Gaze, Jackson McLean, a CBC. "Supongo que algo acerca de las dos formas redondas podría malinterpretarse como pechos p desnudos de alguna manera", explica. "Con suerte, un ser humano real puede mirar la foto para decidir que en realidad no es sexual. Son solo cebollas", apunta el directivo.
https://www.ticbeat.com/tecnologias/el-algoritmo-de-facebook-califica-de-contenido-sexual-inapropiado-unas-cebollas/