Redes sociales combatirán la pornografía infantil generada mediante IA
La pornografía infantil es un delito grave que afecta a millones de niños y niñas en todo el mundo. Es importante que las empresas y las autoridades colaboren para prevenir y combatir este tipo de abusos.
Según una noticia reciente, TikTok y Snapchat se han unido a una declaración conjunta con otras 30 organizaciones para luchar contra la pornografía infantil generada mediante inteligencia artificial (IA). Esta tecnología permite crear imágenes falsas o alteradas de menores que son difíciles de detectar y eliminar.
La declaración ha sido impulsada por el Reino Unido y cuenta con el apoyo de países como Estados Unidos, Alemania, Corea del Sur y Australia. El objetivo es desarrollar medidas técnicas y legales para frenar la difusión de este tipo de contenidos y proteger a los niños y niñas de la explotación sexual.
Algunas de las plataformas que participan en esta iniciativa ya utilizan un software llamado PhotoDNA, desarrollado por Microsoft, que analiza las imágenes y las reporta de forma automática si detecta indicios de pornografía infantil. Sin embargo, la IA plantea nuevos desafíos y riesgos que requieren una mayor cooperación y coordinación.
La declaración conjunta se ha hecho pública antes de la Cumbre sobre Seguridad en la IA que se celebrará el 2 de noviembre en el Reino Unido. En este evento se discutirán las mejores prácticas y los estándares éticos para el uso de la IA en diferentes ámbitos
Ver más: ¿Quiénes son los más discriminados por la IA?
Ver más: Musk presenta su xAI
Ver más: SAP te convierte en un desarrollador de IA generativa
