Inteligencia artificial aplicada por las plataformas en línea y motores de búsqueda de muy gran tamaño para mitigar los riesgos sistémicos en línea

Resumen

En los últimos años, el uso de la inteligencia artificial para la moderación de contenidos se ha convertido en una práctica habitual entre las grandes plataformas en línea y buscadores. Estos sofisticados sistemas algorítmicos desempeñan funciones esenciales al detectar, restringir y eliminar con celeridad contenidos considerados ilícitos (o incompatibles con las condiciones generales) en la red. Esta creciente utilización de la inteligencia artificial responde al exponencial incremento del volumen de datos y al ritmo acelerado de creación y difusión de contenidos en internet. Sin embargo, su aplicación requiere ser tratada con cautela porque puede conducir a resultados equívocos con el consiguiente impacto negativo en los derechos y libertades constitucionalmente protegidos de los usuarios digitales. Un desafío que puede verse agravado aún más por la necesidad de estos oligarcas tecnológicos de dirigir sus esfuerzos en atenuar los “contenidos incorrectos o engañosos, incluida la desinformación” por el riesgo sistémico relacionado con sus servicios.