La preocupación por la seguridad de los datos se sobrepone a los beneficios de inteligencia artificial

Pueblo en Línea  2018:07:19.14:32

Liu Rui/GT

Beijing, 19/07/2018 (El Pueblo en Línea) - La inteligencia artificial se está desarrollando rápidamente, y a la vez que beneficia a nuestras vidas, también trae muchos problemas consigo. ¿Cómo cambiarán las relaciones entre los seres humanos y las máquinas en la era de la inteligencia artificial? ¿Cómo influirá la inteligencia artificial en la seguridad global? Global Times recabó opiniones de tres expertos en el VII Foro Mundial por la Paz organizado por la Universidad Tsinghua en Beijing durante el fin de semana.

He Jingsong, vicepresidente de Qihoo 360

Como miembro de la fuerza laboral de seguridad cibernética, he encontrado al menos tres problemas relacionados con el aspecto de seguridad de la inteligencia artificial. Primero es la ausencia de control humano. Los sistemas no tripulados de inteligencia artificial se han convertido en un objetivo fácil para los piratas informáticos.

Además, los sensores, los datos de entrenamiento y los modelos de aprendizaje profundo de los que dependen de la inteligencia artificial conllevan riesgos. Por ejemplo, como parte de un experimento, nuestros investigadores una vez interfirieron con los sensores inalámbricos de Tesla y el automóvil chocó directamente contra el obstáculo que estaba a 50 centímetros de distancia. El fatal accidente automovilístico de Uber también nos recuerda que debemos prestar más atención a la seguridad de la inteligencia artificial.

Como la inteligencia artificial trae beneficios a nuestra vida diaria, también trae nuevas amenazas a la seguridad global. Por ejemplo, el atributo de la inteligencia artificial de analizar y recopilar información en línea hace que el ciberespionaje sea más preciso y eficaz y ayuda a reducir el coste de producir armas cibernéticas. También descubrimos que la inteligencia artificial ha sido utilizada por la industria clandestina para perturbar el orden social.

Para resolver los problemas de seguridad relacionados con la inteligencia artificial, primero debemos establecer plataformas de servicio público para la seguridad de la inteligencia artificial y asegurarnos de que la fuente de nuestros datos sea creíble. También deberíamos proteger los datos masivos de inteligencia artificial para evitar la fuga de información de los usuarios. El sistema de inteligencia artificial actual utiliza la información personal de los usuarios (huellas dactilares, huellas de voz, rasgos faciales e incluso pistas y ubicaciones) para entrenarse. La inteligencia artificial se está volviendo más sabia, y no nos deja privacidad. Debería informar a los usuarios cuándo está recopilando información en lugar de hacerlo a escondidas. Los usuarios deben tener el derecho de elegir.

Además, debemos evitar el abuso de la inteligencia artificial en la automatización, ataques de red y defensa, industria subterránea y otras áreas.

Vladislav Sherstyuk, director del Instituto de Seguridad de la Información en la Universidad Estatal Lomonosov de Moscú

Nuestra discusión sobre la influencia de la inteligencia artificial es importante, y debería darnos una advertencia anticipada. La tecnología de la información ha impulsado el desarrollo de la ciencia y la sociedad, pero también plantea desafíos. Necesitamos saber cómo atacar y defendernos. Sin embargo, no tenemos reglas o acuerdos internacionales en lo que respecta a la competencia en tecnología. Esto afectará la seguridad de la información.

Internet no tiene fronteras nacionales ni órdenes internacionales ni reglas a seguir. Es un gran desafío. China, Rusia y otros países de la Organización de Cooperación de Shanghai (OCS) trataron de resolver el problema, haciendo sugerencias sobre el código de conducta de internet y formando grupos de expertos para redactar las reglas. Nos enfrentamos a muchos desafíos en materia de legislación, y aunque hay muchas conferencias y seminarios sobre el tema, el problema persiste.

Asistí a una reunión hace tres semanas. Cuando se les preguntó si los países pueden llegar a un consenso sobre las reglas de internet, la mayoría de los especialistas de 51 países acordaron que habrá unanimidad solo cuando ocurra una crisis global. Deberíamos contribuir a establecer normas sobre tecnología de la información y las comunicaciones antes de que los problemas de la inteligencia artificial se vuelvan más serios. Es hora de comenzar.

Jiang Tao, vicepresidente senior de iFLYTEK

A la par del desarrollo de la inteligencia artificial, las personas y los gobiernos también han desarrollado preocupaciones. La gente común está preocupada por perder sus trabajos, mientras que a los gobiernos les preocupa que pueda llevar al desempleo.

De hecho, la inteligencia artificial tiene muchos límites. Sabe cómo calcular, pero no tiene ninguna consideración o planes. El concepto de autoconciencia que es tan intrínseco para los humanos no puede ser inculcado en la inteligencia artificial en el futuro previsible.

¿Qué ha logrado la inteligencia artificial con tantos límites? La tercera revolución industrial ha contribuido a los vínculos entre los seres humanos y la información, las personas y los productos y la conexión entre los seres humanos. Por ejemplo, ahora podemos conectar a los mejores médicos con pacientes de todo el mundo a un bajo coste. Sin embargo, todavía no puede resolver el problema básico, porque aún necesita cerebros humanos, como el conocimiento de expertos y la experiencia. Es decir, a medida que la tercera revolución industrial nos ayuda con los vínculos, también genera un nuevo problema.

Hoy, es importante hacer que las personas comprendan las relaciones entre los seres humanos y las máquinas. Todos los individuos y el gobierno deben saber cómo se coordinarán los seres humanos y la inteligencia artificial en el futuro.

En mi opinión, el Reglamento General de Protección de Datos de Europa parece ser demasiado conservador y obstaculizará el desarrollo de la inteligencia artificial. Creo que los seres humanos cooperaremos con las máquinas en el futuro. Los seres humanos tienen emociones, sabiduría y pasión mientras que las máquinas son rápidas en cálculos, estadísticas y análisis, y su sinergia promoverá el progreso humano. En la era de la inteligencia artificial, los más fuertes serán los que dominen esta tecnología, y no la tecnología en sí.