El algoritmo que "censura" la desnudez en las redes sociales | RED/ACCIÓN

El algoritmo de las redes sociales: entre la acción ante el comercio sexual y la censura de la desnudez

 Una iniciativa de Dircoms + RED/ACCION

Cómo es el criterio que usan las redes sociales para censurar los contenidos sexuales y hasta qué punto pueden diferenciar un desnudo artístico de uno pornográfico. Tomás Balmaceda, filósofo especialista en tecnología, y Adriana Amado, doctora en ciencias sociales e investigadora de medios, analizan los problemas éticos y sociales detrás de esto.

El algoritmo de las redes sociales: entre la acción ante el comercio sexual y la censura de la desnudez

Intervención: Denise Belluzzo

El algoritmo de las redes sociales trabaja censurando cualquier tipo de contenido sexual explícito. Hasta acá todo lógico. Pero los casos en los que el algoritmo se equivoca son cada vez más comunes, poniendo en evidencia decisiones racistas y dobles estándares. Y también poniéndonos frente a frente con nuestras propias preferencias de consumo.

¿Cómo puede el algoritmo discernir entre una imagen ofensiva y un desnudos artístico o de reivindicación del propio cuerpo, o la imagen, por ejemplo de una mujer amamantando?

En agosto del año pasado, una modelo negra de talla grande llamada Nyome Nicholas-Williams subió unas fotos artísticas a Instagram en la que tiene el tronco superior desnudo y se la ve sonriendo y abrazando sus propios pechos. En la foto no se veían sus pezones, ni nada de eso. La modelo subió la foto como una celebración de su propio cuerpo.

Nyome se llenó de indignación cuando vio que Instagam había bajado sus fotos, especialmente porque pudo comprobar que otras fotos similares de chicas blancas y más flacas no eran censuradas. Se indignó y empezó una campaña acusando al algoritmo de Instagram de discriminatorio, una campaña que ganó bastante atención.

Unos meses después, Instagram respondió con una declaración pública: la vocera explicó que el algoritmo de censura que ellos usan tiene una categoría específica que son imágenes en las que alguien se aprieta o exprime los pechos. En este caso, según la vocera de la red social, el algoritmo había funcionado mal, porque no había logrado discernir que esta foto era de autoexpresión, y no una imagen provocadora o pornográfica.

¿Cuál es la línea entre algo sugerente y algo pornográfico?

“El desnudo es una construcción cultural”, expresa Tomás Balmaceda, doctor en filosofía especializado en la filosofía de la tecnología. “Los cuerpos sin ropa existen desde que existen los cuerpos, pero las normas en torno a eso va cambiando en distintos lados del mundo. Por ejemplo, uno puede mostrar un pezón si es hombre, pero no si es una mujer. En algunas partes del mundo, una falda muy corta sería reprobable en algunas partes, y en otras sería bienvenida”.

A partir del caso de Nyome, Instagram decidió empezar a permitir imágenes en las que alguien abraza o contiene sus propios pechos.

Facebook y Twitter anunciaron que no se permitirán fotos en las que alguien agarra sus propios pechos con arrebato y los dedos doblados, o si en la foto hay un claro cambio en la forma de los pechos.

Esta nota surge de un episodio de FOCO, el podcast de RED/ACCION.

Vamos a otro ejemplo: ¿qué pasa si subo a Instagram una foto de El origen del mundo, de Gustave Courbet? Esta pintura, ícono del realismo que está expuesta en el Museo D‘Orsay de París, muestra una vagina abierta en primer plano. Es una obra maestra de arte. Pero el algoritmo de Instagram lo bajaría.

Sus reglas establecen que el genital femenino sólo se puede mostrar en situaciones relacionadas al proceso de parto y nacimiento de un bebé, o en situaciones relacionadas a la salud. Lo mismo pasaría con La maja desnuda, de Goya, la Venus en el Espejo y tantas otras obras de arte.

Esto está haciendo que día a día se bajen muchas obras artísticas que tienen cierta desnudez. lo que más de una vez generó que artistas reclamen a la compañías, por ahora sin respuesta.

Para Tomás Balmaceda, lo primero que tenemos que hacer es redefinir qué son las redes sociales: “Más allá de preguntarse si es correcto o no que haya censura, hay que entender la naturaleza de las redes. Son grandes compañías que se alimentan justamente de modelos de publicidad entonces necesitan que estemos mucho tiempo ahí adentro”, afirma.

En cuanto al uso que le damos a las redes y a nuestro derecho como consumidores o usuarios, Balmaceda explica que “solemos pensar que las redes sociales son una herramienta, un derecho, que pensamos que es gratuita y que todos deberíamos usar sin problema. Sin embargo, las redes se parecen más a un club, con sus reglas y si no cumplís, te expulsan. Eso genera frustración pero a veces genera confusiones. No tenemos porqué pensar que tenemos el derecho de que nos publiquen o no lo que queramos.”.

Cada día, se suben cinco mil millones de publicaciones nuevas a Facebook, 500 millones a Twitter y 60 millones a Instagram. Claramente, hacer que un grupo de gente revise manualmente estos posteos tomaría una eternidad. Simplemente es imposible. Ahí entra en escena el famoso algoritmo. Aunque una publicación podría ser revisada manualmente en casos específicos, por ejemplo, si es una foto que recibió muchas denuncias de usuarios.

¿Qué es y cómo funciona el algoritmo?

El algoritmo es una forma de inteligencia artificial que lo que hace es decidir qué contenido vas a ver en tus redes. Define qué contenido se censura, a qué contenido impulsar, que contenido hacer que llegue a mucha gente, a poca o a ninguna.

Se lo entrena mostrándole distintas imágenes para que cree patrones, y en base a esos patrones, pueda clasificar imágenes como censurables o no. Se le muestran imágenes de cuerpos desnudos para que entienda qué elementos tienen en común esas imágenes y a partir de ahí pueda establecer patrones de censura.

“No son buenos algoritmos cuando uno no quiere encontrar patrones o reproducir el status quo. Si efectivamente un montón de imágenes de carácter sensual o hegemónicas fueron aceptadas, likeadas, compartidas y otras no lo hicieron porque quizás no tienen esos cuerpos hegemónicos o no tienen prácticas tan populares, bueno es posible que el algoritmo favorezca a las imágenes populares frente a las otras. Eso es un problema central que tiene la lógica algorítmica: muy buenas para mantener el status quo o seguir reproduciendo la realidad, pero sin capacidad para transformarla” interpreta Balmaceda sobre la forma en que las redes sociales aplican los algoritmos para detectar estos tipos de contenidos.

Los criterios de programación corren por cuenta de las compañías. Ese manual de usos y costumbres se nos ofrece para leer en el momento en que creamos una cuenta. La famosa letra chica, que jamás leemos porque es muy larga y compleja.

“Las reglas de Instagram son complejas de entender. Lleva largos minutos, casi horas, leer todo lo que nos pide Instagram en sus términos de usos y condiciones. Hay académicos que toman esto como su objeto de estudio: entender cuáles son los términos, por qué son tan complejos de a seguir para la mayor parte de las personas” dice Balmaceda acerca de las reglas de juego que deben aceptar los usuarios de Instagram.

“Hace unos años, salió un estudio en Inglaterra que analizaba el nivel de complejidad del texto de términos y condiciones de Instagram, y lo ponía por encima incluso de Moby Dick, que es una novela bastante compleja, muy larga y que tiene muchos términos que hoy nadie comprendería en su idioma original. Dentro de esos términos y condiciones está la prohibición de mostrar desnudos”, afirma.

¿Deberían las redes sociales censurar contenidos? Y si es así, ¿quién debería determinar qué es censurable y qué no?

Adriana Amado, doctora en ciencias sociales, investigadora de medios y presidente de Infociudadana, explica que todo el tema de la censura de desnudos en redes sociales nació en primer lugar para evitar la difusión de imágenes o contenidos pornográficos en las redes; más precisamente, evitar el comercio de sexo y pornografía.

“No podemos evitar que uno de los mayores consumos en internet es la pornografía. La pornografía se convirtió en un consumo cultural que los medios tradicionales no vehiculizaban con facilidad y que internet lo permitió. Si no entendemos esa inclinación humana, no vamos a entender las campañas intensas que hacen las redes para evitar la difusión de la pornografía”, contextualiza Amado.

La investigadora de Infociudadana explica que son las mismas restricciones llevan a que los usuarios encuentren formas alternativas de subir el contenido que quieran: “Por cada restricción que las redes ponen, las personas que usan las redes para el comercio sexual encuentran la forma de colarse y darse a conocer. Si la red permitiera una foto de un cuerpo descubierto por razones artísticas o sanitarias, seguramente las cuentas dedicadas al comercio sexual encontrarían la forma de difundir sus propuestas o fotos, disfrazándose de campañas sanitarias o artísticas.”.

Un estudio hecho por Algorithm Watch, una organización surgida en Alemania que se dedica a vigilar el comportamiento de estas formas de inteligencia artificial, llegó a la conclusión de que el algoritmo de Instagram está favoreciendo las fotos en las que se muestran cuerpos semidesnudos: la foto de una mujer atractiva en bikini, por ejemplo, va a tener un 54% más chances de aparecer en el feed de la gente, y fotos de hombres sin remera, un 28% más de chances. 

Una explicación posible de esto es que estas imágenes reciben más likes y son más compartidas. mientras tanto, Facebook se rehúsa a que su algoritmo sea auditado por una cuestión de derecho intelectual. Entonces, si nos acordamos del escándalo que te conté al principio del episodio por la censura a las fotos de Nyome, entonces es claro que el algoritmo puede en muchos casos estar manejándose con un doble estándar.

____

Podés leer este contenido gracias a cientos de lectores que con su apoyo mensual sostienen nuestro periodismo humano ✊. Bancá un periodismo abierto, participativo y constructivo: sumate como miembro co-responsable.