Las imágenes de abuso sexual infantil generadas por herramientas de inteligencia artificial son una preocupación creciente para las autoridades y las plataformas digitales. Un estudio realizado por la Internet Watch Foundation (IWF) en octubre encontró más de 3,000 imágenes de este tipo en un solo mes en un foro de la dark web dedicado a material de abuso sexual infantil. Las imágenes generadas utilizando tecnología de conversión de texto a imagen son inquietantemente realistas y pueden producirse sin conexión, evadiendo la detección. Los rápidos avances en la inteligencia artificial podrían abrumar los esfuerzos para combatir el abuso infantil en línea.
Es importante tener en cuenta que la inteligencia artificial no solo tiene beneficios, sino que también puede ser utilizada por personas inescrupulosas. Empresas tecnológicas como TikTok, Snapchat y Stability AI, junto con otros 27 signatarios, han firmado una declaración conjunta comprometiéndose a trabajar juntos para contrarrestar las imágenes de abuso sexual infantil generadas por inteligencia artificial. El gobierno de Gran Bretaña anunció la declaración conjunta, que también fue firmada por los gobiernos de Estados Unidos, Alemania y Australia, en un evento previo a una cumbre mundial sobre seguridad de la inteligencia artificial que se llevará a cabo en Reino Unido esta semana.
