China presenta el primer estándar para detectar rostros digitales falsos en el ámbito financiero

Foto: VCG

China presentó el primer estándar del país que describe los criterios funcionales, técnicos y de rendimiento para los servicios de detección de rostros digitales falsos en el campo financiero en la Conferencia de Inclusión de 2024 en el Bund en Shanghai.

Este estándar, el primero de su tipo para la tecnología de intercambio de rostros impulsada por inteligencia artificial (IA) en los servicios financieros del país, también incorpora los métodos de prueba y evaluación correspondientes, según China News Services (CNS).

El estándar especifica requisitos detallados de funcionalidad y rendimiento, según el informe. A nivel funcional, las instituciones relevantes deben poseer la capacidad de detectar rostros digitales falsos en diferentes escenarios, incluidos el reemplazo, la activación y los deepfakes.

En términos de rendimiento, las instituciones también deben establecer un conjunto de datos de rostros digitales reales de no menos de 5.000 imágenes, junto con conjuntos de datos de rostros falsos de varios tipos de falsificación para abordar escenarios complejos de la vida real. Los factores clave incluyen diferentes tonos de piel, condiciones de iluminación, niveles de claridad y si se incluye o no la voz.

Esto marca un paso importante en el avance de la seguridad de la IA, dijo el domingo Qin An, subdirector del comité de expertos en gobernanza de la ciberseguridad y contraterrorismo de la Sociedad China de Derecho Policial. Añadió que más allá de este estándar, los estándares de calificación definidos para los organismos de certificación en tecnologías de IA también son cruciales para garantizar la seguridad de los datos.

Recientemente, se descubrieron varias salas de chat sospechosas de crear y distribuir material pornográfico deepfake utilizando fotos manipuladas de mujeres comunes en la aplicación de mensajería Telegram, y se sabe que muchas de las víctimas y los perpetradores son adolescentes, según informó The Korea Times.

El incidente ganó atención en China después de las publicaciones de internautas que afirmaban ser mujeres surcoreanas, expresando temores de que el incidente se pasara por alto en su país, según thepaper.cn.