#AhoraMisiones El nuevo sistema de Facebook para combatir el porno de venganza implicaría el trabajo conjunto de una IA automatizada y personal humano calificado.
Tener pareja y enviarse material con desnudos es una práctica normal y perfectamente aceptable. Sin embargo, el problema de esto es cuando la relación no finaliza en buenos términos para ambas partes y ese material erótico termina difundido en internet. Esta práctica, llamada porno de venganza o 'pornovenganza', se ha hecho tan común que las redes sociales se han preocupado de que se utilicen sus plataformas para la difusión de este contenido. Por supuesto, entre ellas está Facebook.
La pornovenganza no es un concepto nuevo. Desde hace años se ha ido hablando del tema, y diversas redes sociales han reaccionado, así como las legislaciones de ciertos países. Si bien Facebook había prestado herramientas para denunciar publicaciones de este tipo, faltaba un sistema especializado que las detectara.
Por eso Facebook hizo un anuncio especial hoy a través de su blog. En él, la red social aclara su compromiso para proteger a las víctimas de prácticas de pornovenganza. Así, mencionó la implementación de un nuevo sistema que ayudará a detectar y eliminar rápidamente este tipo de contenido. Además, funcionará de igual manera en Instagram.
Básicamente empleará inteligencia artificial y aprendizaje automático para mejorar la detección de publicaciones de contenido erótico no consensuado. Según el blog, esto irá más allá de simplemente detectar desnudos como se venía haciendo hasta ahora. A la IA se le estuvo entrenando con fotos que ya habían sido confirmadas como porno de venganza. No solo analizaría las características de la imagen, sino que también verificaría si hay mensajes ofensivos junto a ella.
Una vez el sistema señale una publicación como pornovenganza, esta sería remitida a un equipo especial de Facebook. Este personal humano estaría entrenado para trabajar con este tipo de material, por lo que actuarían rápidamente. Con esto, se buscaría remover material peligroso para la intimidad de cualquier persona incluso antes de que denuncie, pues muchas víctimas tienen miedo de hacerlo ante posibles represalias.
Tener pareja y enviarse material con desnudos es una práctica normal y perfectamente aceptable. Sin embargo, el problema de esto es cuando la relación no finaliza en buenos términos para ambas partes y ese material erótico termina difundido en internet. Esta práctica, llamada porno de venganza o 'pornovenganza', se ha hecho tan común que las redes sociales se han preocupado de que se utilicen sus plataformas para la difusión de este contenido. Por supuesto, entre ellas está Facebook.
La pornovenganza no es un concepto nuevo. Desde hace años se ha ido hablando del tema, y diversas redes sociales han reaccionado, así como las legislaciones de ciertos países. Si bien Facebook había prestado herramientas para denunciar publicaciones de este tipo, faltaba un sistema especializado que las detectara.
Por eso Facebook hizo un anuncio especial hoy a través de su blog. En él, la red social aclara su compromiso para proteger a las víctimas de prácticas de pornovenganza. Así, mencionó la implementación de un nuevo sistema que ayudará a detectar y eliminar rápidamente este tipo de contenido. Además, funcionará de igual manera en Instagram.
Básicamente empleará inteligencia artificial y aprendizaje automático para mejorar la detección de publicaciones de contenido erótico no consensuado. Según el blog, esto irá más allá de simplemente detectar desnudos como se venía haciendo hasta ahora. A la IA se le estuvo entrenando con fotos que ya habían sido confirmadas como porno de venganza. No solo analizaría las características de la imagen, sino que también verificaría si hay mensajes ofensivos junto a ella.
Una vez el sistema señale una publicación como pornovenganza, esta sería remitida a un equipo especial de Facebook. Este personal humano estaría entrenado para trabajar con este tipo de material, por lo que actuarían rápidamente. Con esto, se buscaría remover material peligroso para la intimidad de cualquier persona incluso antes de que denuncie, pues muchas víctimas tienen miedo de hacerlo ante posibles represalias.
