El algoritmo de Facebook califica de contenido sexual inapropiado… unas cebollas

[Machacador]

El algoritmo de Facebook califica de contenido sexual inapropiado... unas cebollas

El algoritmo de Facebook responsable de detectar lo que ellos llaman "contenido sexual inapropiado" no solamente es criticado por sus sesgos, sino que a veces se equivoca estrepitosamente. En esta ocasión un montón de cebollas fueron marcadas como inapropiadas.


El algoritmos de Facebook califica de contenido sexual inapropiado... una cesta de cebollas

El algoritmo de Facebook lo ha vuelto a hacer: si en otras ocasiones se consideró el envío de emojis de berenjena como solicitud sexual, censuró fotos de madres amamantando a sus hijos o incluso borró la publicación del famoso cuadro de Coubert El origen del mundo -aunque se saldó con final feliz para el usuario-, esta vez ha filtrado como contenido inapropiado una inocente cesta de cebollas.

Gaze Seed Company intentó anunciarse en Facebook usando una imagen de una pila de cebollas en una canasta para comercializar sus semillas, según informó la CBC, pero fue bloqueado por el algoritmo de Facebook. ¿La razón oficial? Los algoritmos de Facebook decidieron que la imagen estaba "abiertamente sexualizada". Además de las bromas que originó este error, se trata de una muestra más de lo poco preparada que está la Inteligencia Artificial para asumir la moderación de contenido, al menos sin revisión humana.

Publicación categorizada como inapropiada por el algoritmo de Facebook

Desafortunadamente, la publicación de Gaze Seed Company no aclaró qué pasa exactamente con las cebollas, que el anuncio describe como "extremadamente dulces, suaves y grandes", o su posición fue "abiertamente sexualizada" como afirma Facebook.

"Nos notificaron el otro día que era una 'imagen abiertamente sexual' que tenían que prohibir en el sitio", dijo el gerente de Gaze, Jackson McLean, a CBC. "Supongo que algo acerca de las dos formas redondas podría malinterpretarse como pechos p desnudos de alguna manera", explica. "Con suerte, un ser humano real puede mirar la foto para decidir que en realidad no es sexual. Son solo cebollas", apunta el directivo.

https://www.ticbeat.com/tecnologias/el-algoritmo-de-facebook-califica-de-contenido-sexual-inapropiado-unas-cebollas/

[tincopasan]

realmente hay que estar muy enfermo para ver algo sexual en esas cebollas. y si es por las palabras, bue... también, no todo lo redondo y suave tiene que ser sexual.

[Serapis]

Es la demostración explícita del sesgo en el entrenamiento de los algoritmos... más aún, que en las personas. El porcentaje de diferentes detalles en la alimentación del algoritmo (el ambiente circundante en el caso de las personas), determina, marca, justifica el sego del aprendizaje...

[Siempre Azul]

no entiendo porque no dejan poner porno , que les cuesta a facebook poner en ajustes de la cuenta una sección que la gente tilde que es mayor de edad y entonces esas personas puedan publicar y ver anuncios porno y las que no lo tilden no puedan ver nada ni publicar nada.

[B€T€B€]

no entiendo porque no dejan poner porno , que les cuesta a facebook poner en ajustes de la cuenta una sección que la gente tilde que es mayor de edad y entonces esas personas puedan publicar y ver anuncios porno y las que no lo tilden no puedan ver nada ni publicar nada.

Porque el porno (dicen) es malo; muy malo....

[tincopasan]

porque el porno genera por si solo un negocio que no le redituaría a facebook y además habiendo miles de lugares donde se puede, ¿por qué saturar toda la red? siempre hay a quien ni le interesa la publicidad del porno.