Brasil: ONG desarrolla IA para combatir los discursos de odio promovidos por las Big Tech
Un ataque coordinado de odio promovido por sectores de extrema derecha y amplificado por los algoritmos de las grandes plataformas digitales impulsó a la organización brasileña Código Não Binário a desarrollar una herramienta de inteligencia artificial destinada a detectar discursos de odio contra personas transmasculinas y fundamentar acciones judiciales contra las corporaciones tecnológicas.
La ONG presentó una Acción Civil Pública contra Meta (Facebook, Instagram y WhatsApp), Google (YouTube), X y ByteDance (TikTok), acusándolas de permitir, amplificar y monetizar la violencia digital anti-LGBTIQ+. El proceso cuenta con el respaldo del Instituto Brasileño de Transmasculinidades (Ibrat), el Foro Nacional de Travestis y Transexuales Negras (Fonatrans) y la revista AzMina.
El detonante ocurrió en mayo de 2024, cuando un fragmento del podcast “Entre Amigues” se viralizó masivamente, generando una ola de ataques contra personas transmasculinas. El contenido, relacionado con el término popular “boyceta”, se convirtió en uno de los temas más comentados del país durante dos días, impulsado por los sistemas de recomendación algorítmica.
Ante la avalancha de violencia digital, el equipo de Código Não Binário desarrolló una metodología de extracción y clasificación de datos, analizando manualmente dos mil comentarios iniciales. A partir de ese patrón, una herramienta de inteligencia artificial procesó miles de interacciones adicionales, generando un informe técnico que sustenta la demanda judicial.
La plataforma fue bautizada como TybyrIA, en homenaje a Tybyra do Maranhão, considerado la primera víctima documentada de LGTBIfobia durante la colonización brasileña, ejecutado públicamente mediante un cañón. La herramienta es gratuita, de código abierto y disponible para uso público, con el objetivo de democratizar el monitoreo de la violencia digital.
“Transformamos el odio en riqueza política y tecnológica para combatir la circulación de discursos de odio”, afirmó Veronyka Gimenes, directora de la ONG, al explicar que los datos recopilados fueron convertidos en insumo estratégico para la defensa de derechos humanos.
El análisis reveló que los comentarios de odio generan más interacción que el promedio, lo que demuestra que los algoritmos priorizan contenidos que activan emociones extremas como la ira y el conflicto, favoreciendo su viralización y visibilidad.
Según Amanda Claro, codirectora de la organización, la legislación brasileña no avanza al ritmo de las transformaciones digitales, lo que deja vacíos regulatorios frente al poder de las plataformas. “Las redes sociales no son espacios neutrales. Funcionan como sistemas no regulados que premian el odio y multiplican su alcance”, advirtió.
El caso marca un precedente regional al llevar simultáneamente a juicio a las principales plataformas digitales, señalándolas como actores activos en la arquitectura de la violencia digital, y no meros intermediarios tecnológicos.
Desde Código Não Binário subrayan además la necesidad de desmitificar el uso social de la inteligencia artificial, diferenciando herramientas comunitarias de los grandes modelos comerciales. “No todo es ChatGPT ni megaproyectos corporativos. Esta tecnología también puede ser usada como instrumento de justicia social”, señalaron.
La iniciativa se inscribe en un contexto global donde crece el debate sobre la regulación de plataformas digitales, la responsabilidad algorítmica y la soberanía tecnológica, especialmente frente al impacto directo que estos sistemas tienen en poblaciones vulnerables.