Años demasiado tarde, la compañía anteriormente conocida como Facebook finalmente ha comenzado a trabajar en un algoritmo para bloquear fotos de desnudos no solicitados. Instagram está trabajando en una IA que bloqueé fotos íntimas no solicitadas.
En una declaración para The Verge, Meta Platforms confirmó que está trabajando en controles de usuario opcionales que ayudarán a filtrar imágenes y mensajes no solicitados. Hay muchos tipos de ellos, por supuesto, pero es casi seguro que uno de los más generalizados es enviado por un subgrupo de hombres trastornados que parece que no pueden dejar de compartir imágenes no solicitadas de sus genitales.
«Estamos trabajando en estrecha colaboración con expertos para garantizar que estas nuevas funciones preserven la privacidad de las personas». Esto lo dijo la portavoz Liz Fernandez a The Verge , «mientras les damos control sobre los mensajes que reciben».
Instagram está trabajando en una IA que bloqueé fotos íntimas no solicitadas
La confirmación, señala Verge , se produjo después de que un investigador tuiteara una captura de pantalla de la opción «protección de desnudez» que se encuentra actualmente en desarrollo. Según la declaración de la compañía, Meta en sí no podrá ver los mensajes ofensivos, sino que empleará inteligencia artificial para filtrar los mensajes directos.
Sin embargo, no te emociones demasiado. Como señala The Verge , el Centro para contrarrestar el odio digital con sede en el Reino Unido publicó un informe a principios de este año que encontró que Instagram no actuó nueve de cada diez veces. No lo hizo cuando las personas informaron lenguaje misógino y otro contenido dañino en mensajes directos con su algoritmo existente, que no No filtre palabras como «perra».
“Instagram afirma que actúan sobre el discurso de odio, incluida la misoginia, la homofobia y el racismo; la desnudez o la actividad sexual; la violencia gráfica y las amenazas de violencia”, señaló la organización sin fines de lucro en su informe. «Pero nuestra investigación encuentra que Instagram falla sistemáticamente en hacer cumplir las sanciones apropiadas y eliminar a quienes infringen sus reglas».
El problema de las fotos de penes no solicitadas es tan frecuente que se ha acuñado un nuevo término, «cyberflashing», para describirlo. Pronto, podría convertirse en un delito en Reino Unido si el Parlamento aprueba el «Proyecto de ley de seguridad online».
Este criminalizaría el envío de de material sexual o violento no solicitado. No existe tal ley nacional en los EE. UU., señala The Verge. Sin embargo, Texas convirtió el cyberflashing en un delito menor en 2019. Queda por ver si el algoritmo anti-dick-pic de Meta, aún en desarrollo, funcionará. Pero al menos, es una buena idea.
