Decenas de miles de pequeños sitios web que se preparan para cumplir las nuevas medidas contra el extremismo introducidas por la Unión Europea podrían tener pronto un nuevo e inesperado aliado: Google.
El gigante de las búsquedas -a menudo un saco de boxeo para las empresas más pequeñas que las acusan de prácticas anticompetitivas- está desarrollando un software gratuito de moderación de contenidos para ayudar a los sitios web a controlar y eliminar material terrorista. La nueva herramienta de Google, de la que informó por primera vez The Financial Times, llega justo después de una iniciativa similar de Meta, y pretende ayudar a las empresas más pequeñas con menos recursos a evitar las sanciones potencialmente aplastantes impuestas por la Ley de Servicios Digitales de Europa.
La herramienta de moderación, creada mediante una asociación entre la división de I+D Jigsaw de Google y Tech Against Terrorism, respaldada por las Naciones Unidas, se basará en una base de datos de contenido sospechoso de terrorismo recopilada por el Foro Global de Internet para Combatir el Terrorismo, una organización sin ánimo de lucro formada por Facebook, Microsoft, Twitter y YouTube en 2017. Mientras que Meta anunció recientemente un software de detección antiterrorista de código abierto que ayudará a los sitios a cotejar el contenido potencialmente dañino con esa base de datos, el informe de The Financial Times señala que las herramientas de Google ayudarán a los moderadores humanos a dar el siguiente paso y decidir qué medidas coercitivas poner en marcha con el contenido marcado como dañino.
La Ley de Servicios Digitales, que entró en vigor el pasado mes de noviembre, codifica normas anteriores que obligan a los sitios web y plataformas a retirar contenidos terroristas en el plazo de una hora tras recibir una orden de retirada o enfrentarse a fuertes multas. Aunque estas medidas tienen por objeto reprimir positivamente los contenidos extremistas, también pueden tener consecuencias imprevistas, como la desproporción con las empresas más pequeñas. Mientras que las grandes empresas tecnológicas, como Google y Meta, han utilizado sus grandes bolsillos y sus inversiones en inteligencia artificial para aumentar sus índices de detección del terrorismo, las nuevas empresas y las empresas más pequeñas a menudo carecen de esas mismas capacidades.
«Hay muchos sitios web que simplemente no tienen personal que se encargue de la aplicación de la ley», declaró Yasmin Green, directora ejecutiva de Jigsaw, al Financial Times. «Construir los algoritmos requiere mucho trabajo, y luego se necesitan todos esos revisores humanos».
El director ejecutivo de Tech Against Terrorism, Adam Hadley, hizo eco de esta afirmación en un correo electrónico.
«Según nuestra experiencia, los terroristas intentan aprovecharse de las plataformas más pequeñas, donde la moderación de contenidos es un reto debido a la escasez de recursos», explica Hadley. «Aumentando nuestros esfuerzos existentes para alertar a las empresas tecnológicas, esta iniciativa está diseñada para ayudar a las plataformas que están inundadas por la amenaza y no tienen la capacidad de triage miles de solicitudes de remisión.»
Un portavoz de Google dijo en un correo electrónico: «El terrorismo es un ataque a las sociedades abiertas, y hacer frente a la amenaza que suponen la violencia y el odio es un reto crítico para todos nosotros. Jigsaw y Tech Against Terrorism, en colaboración con el Global Internet Forum to Counter Terrorism (GIFCT), están trabajando para desarrollar una nueva aplicación web que permita a las pequeñas y medianas plataformas clasificar y actuar sobre las URL y los hash que existen en las bases de datos antiterroristas». El portavoz añadió: «Esta coalición de socios invertirá en la investigación de formas de ayudar a las plataformas pequeñas y medianas a frenar la difusión de contenidos extremistas violentos.»
Google no está ayudando necesariamente a estos sitios más pequeños y medianos, sol por la bondad de su corazón. Aunque no se espera que el proyecto genere beneficios a corto plazo, Green declaró a The Financial Times que a Google le interesa apoyar una web respetuosa y sin terrorismo.
«Hay un entendimiento de que hay un retorno empresarial a largo plazo», dijo Green. «Google necesita un Internet más sano».
La noticia de la herramienta de Google llega aproximadamente un mes después de que Meta anunciara que pondría su nueva herramienta de moderación «Hasher-Matcher-Actioner» (HMA) a disposición de una amplia gama de empresas interesadas en detectar contenidos terroristas o extremistas. En ese caso, la herramienta HMA utiliza hashes de contenido terrorista conocido para que las plataformas o sitios web detecten imágenes o vídeos duplicados y puedan adoptar medidas coercitivas contra ellos.
Actualización, 1/4/2022, 11:20 A.M EST: Añadida declaración de Tech Against Terrorism.
