La BBC ha descubierto que los pedófilos están utilizando tecnología de inteligencia artificial (IA) para producir y comercializar material realista de abusos sexuales a menores.
Algunas personas están teniendo acceso a las imágenes suscribiéndose a cuentas en populares sitios web de intercambio de contenidos como Patreon.
Según Patreon, hay "tolerancia cero" para este tipo de imágenes en su sitio web.
El Consejo Nacional de Jefes de Policía consideró "indignante" que algunas plataformas obtuvieran "enormes beneficios" mientras abdicaban de sus obligaciones morales.
Los creadores de las imágenes de abusos están empleando un software de inteligencia artificial (IA) llamado Stable Diffusion, que fue creado para producir imágenes para su uso en diseño gráfico o arte.
Los ordenadores pueden ahora llevar a cabo tareas que normalmente requerirían inteligencia humana gracias a la IA.
El software Stable Diffusion permite a los usuarios describir cualquier imagen que deseen mediante mensajes de palabras, y el programa producirá entonces la imagen deseada.
Sin embargo, la BBC ha descubierto que se está utilizando para producir imágenes realistas de abusos sexuales a menores, incluida la violación de bebés y niños pequeños.
Equipos de la policía británica que investigan los abusos a menores en Internet afirman haberse encontrado ya con este tipo de material.
Octavia Sheepshanks, periodista e investigadora independiente, lleva tiempo investigando este asunto. Alertó a la BBC de sus hallazgos a través de la organización benéfica para la infancia NSPCC.
Desde que las imágenes generadas por inteligencia artificial son factibles, afirmó, "se ha producido esta enorme avalancha...". En el Reino Unido es ilegal poseer, publicar o transferir una "pseudoimagen" que muestre abusos sexuales a menores, ya que recibe el mismo trato que una imagen real.
Según Ian Critchley, responsable de protección de menores del Consejo Nacional de Jefes de Policía (NPCC), sería incorrecto afirmar que, al no aparecer niños reales en dichas imágenes "sintéticas", nadie ha sufrido daños.
Un pedófilo podría "avanzar en esa escala de delitos desde el pensamiento a la imagen sintética, hasta el abuso real de un niño vivo", advirtió el autor.
Hay tres pasos en el intercambio de imágenes de abuso.
- Los pedófilos utilizan software de inteligencia artificial para crear imágenes.
- En sitios web como el servicio japonés de intercambio de fotos Pixiv, anuncian las imágenes.
- Los clientes pueden pagar por ver las imágenes más explícitas de estas cuentas siguiendo los enlaces de estas cuentas en sitios web como Patreon.
Algunos de los creadores de imágenes publican en Pixiv, un sitio de redes sociales japonés muy popular utilizado principalmente por creadores de manga y anime.
Los creadores del sitio lo utilizan para promocionar su trabajo en grupos y a través de hashtags, que indexan temas utilizando palabras clave, pero como está alojado en Japón, donde es legal compartir caricaturas sexualizadas y dibujos de niños, lo hacen.
Según un portavoz de Pixiv, la empresa está muy centrada en encontrar una solución a este problema. El 31 de mayo, declaró que había ilegalizado todas las representaciones fotostalizadas de contenido sexual que implicaran a menores.
La empresa afirmó que había reforzado de forma proactiva sus sistemas de supervisión y que estaba dedicando importantes recursos a abordar los problemas provocados por los avances en IA.
Según la investigación de la Sra. Sheepshanks, los usuarios parecían estar produciendo imágenes de abuso infantil a gran escala, dijo a la BBC.
Debido al gran volumen, explicó, "la gente [creadores] dirá "nuestro objetivo es hacer al menos 1.000 imágenes al mes".".
Los comentarios de los usuarios sobre imágenes concretas de Pixiv dejan claro que tienen un interés sexual en los niños; algunos incluso se ofrecen a proporcionar imágenes y vídeos de abusos en el mundo real.
Algunos de los grupos de la plataforma han estado bajo la lupa de Ms. Sheepshanks.
"La gente compartirá: 'Oh, aquí hay un enlace a cosas reales', en esos grupos, que tendrán 100 miembros, dice.
"Las peores cosas, ni siquiera sabía que existían esas palabras [descripciones]. ".
Muchas cuentas de Pixiv tienen enlaces en sus biografías que dirigen a los espectadores a lo que denominan su "contenido sin censura" en la plataforma estadounidense de intercambio de contenidos Patreon.
Patreon afirma tener más de 250.000 creadores, la mayoría de los cuales son cuentas reales pertenecientes a conocidos escritores, periodistas y famosos. Se calcula que Patreon tiene un valor de 4.000 millones de dólares (3.100 millones de euros).
Suscribiéndose mensualmente a blogs, podcasts, vídeos e imágenes por tan sólo 3,85 dólares (3 euros), los fans pueden apoyar a los creadores.
Pero durante nuestra investigación, descubrimos cuentas de Patreon que vendían imágenes fotorrealistas, generadas por IA y ofensivas de niños a distintos precios según el tipo de contenido solicitado.
"Entreno a mis hijas en mi PC", escribió uno en su cuenta, añadiendo que exhiben "sumisión". Otro usuario ofrecía "arte exclusivo sin censura" por 8,30 dólares (6,50 libras) al mes.
Un ejemplo que la BBC envió a Patreon era "semirealista y viola nuestras políticas", según reconoció la plataforma. La cuenta fue supuestamente eliminada de inmediato.
Insistiendo en que "los creadores no pueden financiar contenidos dedicados a temas sexuales que involucren a menores", Patreon afirmó tener una política de "tolerancia cero". ".
La compañía añadió que había "identificado y eliminado cantidades cada vez mayores" de este material, calificando de "real y angustioso" el aumento de contenido nocivo generado por IA en Internet.
La compañía afirmó ser "muy proactiva", con equipos que dedican su tiempo, tecnología y alianzas para "mantener a salvo a los adolescentes", y que ya prohíbe el material sintético de explotación infantil generado por inteligencia artificial. .
Una colaboración global entre académicos y varias empresas, liderada por la compañía británica Stability AI, dio como resultado el desarrollo del generador de imágenes de IA Stable Diffusion.
Ha habido varias versiones, y el código se ha restringido para limitar los tipos de contenido que se pueden crear.
Sin embargo, el año pasado se puso a disposición del público una versión anterior de "código abierto" que permitía a los usuarios desactivar cualquier filtro y programarlo para crear cualquier imagen -incluidas las ilícitas-.
Según Stability AI, "nuestras políticas dejan claro que esto incluye el CSAM (material de abuso sexual infantil), y prohibimos cualquier uso indebido con fines ilegales o inmorales en todas nuestras plataformas".
"Apoyamos firmemente los esfuerzos de las fuerzas de seguridad contra quienes abusan de nuestros productos con fines ilícitos o perversos", reza el comunicado.
Se han planteado preguntas sobre los riesgos potenciales que la IA puede suponer algún día para la seguridad, la privacidad o los derechos humanos de las personas, ya que continúa desarrollándose rápidamente.
Ian Critchley, del NPCC, expresó su preocupación por que la afluencia de IA realista o imágenes "sintéticas" pueda dificultar la búsqueda de víctimas reales de abusos.
Explica: "A diferencia de un niño artificial o sintético, crea una demanda adicional en términos de policía y aplicación de la ley para identificar dónde un niño real, en cualquier parte del mundo, está siendo abusado. "
El Sr. Critchley afirmó que pensaba que la sociedad se encontraba en un punto de inflexión en ese momento.
Podemos asegurarnos de que los jóvenes puedan aprovechar las increíbles oportunidades que ofrecen Internet y la tecnología, o podría convertirse en un lugar mucho más peligroso, advirtió el ponente.
