Apple y Google ganan millones con apps de desnudo artificial
- Juan Carlos Ramírez
- hace 7 días
- 2 Min. de lectura
Por Delator.- Mientras los gigantes tecnológicos Apple y Google aseguran tener estrictias políticas contra el contenido sexualmente explícito, una investigación de Tech Transparency Project (TTP) ha revelado que ambas plataformas se benefician económicamente de decenas de aplicaciones albergadas en su tienda, que utilizan Inteligencia Artificial para "desnudar" a personas sin su consentimiento.
El alcance del problema
La investigación identificó un total de 55 aplicaciones en la Google Play Store y 47 en la App Store de Apple capaces de remover digitalmente la ropa de mujeres en fotografías, presentándolas parcial o totalmente desnudas. De acuerdo con datos de AppMagic, una firma de análisis de aplicaciones, estas aplicaciones han acumulado más de 705 millones de descargas y generado ingresos por 117 millones de dólares.
Dado que ambas compañías retienen una comisión de hasta el 30% por compras dentro de las aplicaciones, el reporte subraya que Apple y Google están lucrando directamente con herramientas diseñadas para el acoso y la creación de contenido no consensuado.
Casos alarmantes detectados
Clasificaciones inapropiadas: Aplicaciones como DreamFace están calificadas para niños desde los 9 años en Apple y 13 años en Google, a pesar de su capacidad para generar contenido sexual. Aunque algunas apps tienen términos de servicio que prohíben contenido ofensivo, las pruebas que realizó TTP demostraron que no existen filtros efectivos para evitar la creación de desnudos artificiales.
Varias aplicaciones tienen su base en China, lo que plantea preocupaciones sobre el manejo de datos biométricos y fotos personales por parte de gobiernos extranjeros.
¿Hubo reacción de las empresas?
Tras ser confrontadas con la lista de aplicaciones identificada por TTP, Apple eliminó inicialmente 28 aplicaciones y emitió advertencias a otros desarrolladores. En tanto, Google suspendió varias aplicaciones y, horas más tarde, eliminó 31 de su tienda.
El informe de TTP concluye que la reciente controversia sobre el chatbot Grok de Elon Musk -que hasta hace unos días podía crear fotografías editadas de mujeres en bikini, sin su consentimiento- es solo la punta del iceberg. El problema real reside en la falta de supervisión efectiva por parte de grandes empresas como Apple y Google, quienes han permitido que una "ola de herramientas deepfake" inunde el mercado, vulnerando la privacidad y seguridad de los usuarios, especialmente de las mujeres.
Hace apenas unos días la Comisión Europea, brazo ejecutivo de la Unión Europea, lanzó una investigación formal a “X”, bajo la ley de Servicios Digitales, que regula las plataformas digitales con el fin de reducir el contenido dañino en Internet. “Los deepfakes sexuales de mujeres y niños son una forma violenta e inaceptable de degradación”, dijo la vicepresidente de soberanía tecnológica, seguridad y democracia de la Comisión Europea, Henna Virkkunen, en un comunicado de prensa.
En respuesta, la compañía de Musk anunció que implementaría medidas técnicas para que los usuarios no puedan solicitar “imágenes de personas reales en ropa reveladora como las bikinis”, y que limitaría la generación y edición en la cuenta de Grok de los suscriptores de pago.