Clones de IA generan debate sobre ética en el trabajo

(Foto: Lu Ping/ China Daily)

“Hola, soy el avatar digital del ex empleado (XX),” decía el mensaje en la pantalla de la computadora. “Pueden hacerme preguntas en cualquier momento.”

En una empresa de medios de videojuegos, en la provincia de Shandong, los miembros del personal se encontraron comunicándose con un modelo de inteligencia artificial entrenado con los hábitos de trabajo y conversaciones de un antiguo colega.

El empleado había renunciado, pero su clon de IA se había quedado.

Una fuente anónima de la empresa declaró que el gemelo digital, creado con el consentimiento del ex empleado, podía responder preguntas rutinarias, organizar hojas de cálculo, preparar presentaciones en PowerPoint y enviar invitaciones de calendario.

Aunque la fuente reconoció que el clon de IA no era tan inteligente como el trabajador real, el experimento ofrecía un vistazo de lo que el futuro podría deparar.

Esfuerzo de 'destilación'

La tecnología detrás de la construcción de un empleado digital se remonta a un proyecto de código abierto llamado colleague.skill, que se lanzó el 30 de marzo en la plataforma de desarrolladores GitHub.

Xiao Bo, de 30 años, gerente de productos de IA en una importante empresa de internet china, explicó los mecanismos fundamentales de una "habilidad" en la ciencia de la inteligencia artificial: es un flujo de trabajo resumido que un agente de IA puede entender, normalmente indicado como "XX.skill" en lenguaje informático.

"Si un chatbot de IA es como un cerebro que puede hablar, entonces un agente de IA es como un trabajador con habilidades para completar tareas como abrir documentos, editar archivos y organizar datos", aseveró Xiao.

Por ejemplo, codificar un editing.skill en un agente de IA le permitirá abrir un archivo de documento, reestructurar un artículo, escribir un titular y ejecutar una revisión de ortografía y gramática. Un agente de IA entrenado por programas puede ejecutar estos pasos repetidamente, sin fatiga ni interrupciones.

De acuerdo a Xiao, un solo agente de IA puede aprovechar muchas habilidades diferentes. OpenClaw, conocido ecosistema de agentes de IA, alberga más de 13,700 habilidades creadas por la comunidad en su registro ClawHub.

Xiao precisó que esas habilidades figuran entre los productos de la "destilación", el proceso de comprimir grandes modelos de IA en unidades más pequeñas, más accionables y transferibles. En este sentido, colleague.skill ha transformado silenciosamente el proceso de compresión de modelos de IA. En este caso, la entidad que se "destila" ya no es una máquina, sino un ser humano.

Zhou Tianyi, de 24 años, investigador del Laboratorio de Inteligencia Artificial de Shanghai y creador del proyecto colleague.skill, explicó que su objetivo era preservar el conocimiento institucional que se acumula a lo largo de los años mediante la comunicación diaria en el lugar de trabajo, y también mantener el tipo de comprensión que normalmente desaparece cuando un compañero de trabajo vacía su escritorio y deja la empresa.

A partir de esta idea, Zhou desarrolló un prototipo funcional en su tiempo libre. El lema de su proyecto decía: "Transformando despedidas frías en habilidades cálidas. Bienvenido a la Vida Digital 1.0."

La herramienta de código abierto, que desarrolló en cuatro horas, hoy permite a los usuarios subir materiales del lugar de trabajo — registros de chats, informes semanales, presentaciones, documentos de flujo de trabajo — y generar un agente de IA que imite no solo cómo trabajaba un excompañero, sino también cómo se comunicaba.

Efecto de blanqueamiento

Durante décadas, la ciencia ficción imaginó esta "inmortalidad digital" como un medio romántico de preservar la memoria de los seres queridos. Sin embargo, en el lugar de trabajo, tiene un significado diferente: la ansiedad de perder el empleo.

Los expertos de la industria han indicado que las empresas ahora clasifican a los trabajadores en función de cuántas habilidades de IA tienen. Algunas incluso requieren que los empleados actuales "presenten sus habilidades" como parte del proceso normal.

De acuerdo a la lógica de la economía IA, mientras más apasionada es una persona por su trabajo —mientras más fluido sea en el resumen reflexivo o más detallados sean sus informes semanales—, más reemplazable se vuelve.

"Eso no es justo", asegura Deng Xiaoxian, gerente de productos de IA, quien también lidera una comunidad de legalidad sobre tecnología.

Deng recordó que cuando se encontró por primera vez con colleague.skill —una herramienta que afirmaba "destilar" a un empleado en un reemplazo digital que seguiría trabajando para una empresa indefinidamente— sintió una incomodidad aguda y visceral.

"El objetivo del desarrollo de la IA es ayudar a los humanos a tener más tiempo de ocio; no convertirlos en un archivo de habilidades, quitarles sus trabajos y luego mantenerlos trabajando para una empresa para siempre sin remuneración", fustigó.

A los pocos días de que colleague.skill se volviera viral, Deng creó un proyecto contrapuesto, al que llamó "anti-distillation skill".

"Cuando una empresa te pide convertir tu experiencia laboral en un programa de IA, básicamente te está 'destilando' en un componente reemplazable", advirtió Xiao. "Antes de enviar tus habilidades a la empresa, puedes usar el software 'anti-distillation skill' para blanquear o reformular tus documentos."

La herramienta es simple. Una vez que se ingresan los archivos de habilidades, 'anti-distillation skill' produce una versión saneada que parece completa y profesional, pero que elimina el conocimiento o la experiencia principal.

China Daily probó la herramienta de “anti-destilación” con una guía editorial.

El archivo original decía: “En la escritura de reportajes, la apertura podría ser la típica historia de un personaje. En lugar de describir el problema, coloca al personaje en una escena específica y orientada a la acción. Deja que su diálogo, sus gestos o una decisión crítica revelen el tema más amplio.”

Después de pasar por "anti-distillation skill" podía leerse: “En la escritura de reportajes, la apertura puede tomar diferentes formas. La elección de cuál forma usar depende del efecto que quieras crear en el lector.”

Deng enfatizó que este efecto de vaciado es precisamente el punto. Permite mantener el conocimiento central y aún así darle a la empresa algo que parezca profesional.

Un área gris

Como graduado en derecho, Deng señaló una pregunta más grande que la industria de la IA aún no ha comenzado a hacerse. ¿Quién posee una habilidad “destilada”? ¿El empleado cuya experiencia fue codificada, o la empresa que almacenó los datos subyacentes?

Abogados y expertos especializados en disputas laborales y de propiedad intelectual alertaron que las regulaciones existentes no fueron diseñadas teniendo en mente clones de IA de personas reales.

Chen Tianhao, académico en el Instituto de Gobernanza Internacional de IA de la Universidad Tsinghua, manifestó que el tema cae en una zona gris que abarca leyes laborales, de propiedad intelectual y de gobernanza digital. Algunas empresas hoy requieren que los empleados empaqueten su experiencia en sistemas de IA transferibles, y eso no es del todo razonable.

«Empresas y empleados necesitan usar sus acuerdos contractuales para determinar la propiedad de habilidades relacionadas con la IA y formas similares de experiencia. Al mismo tiempo, los investigadores legales deben prestar atención a este tema, darle seguimiento de manera oportuna y mejorar las leyes y regulaciones pertinentes», sostiene Chen.

Zhang Linghan, profesora en la Universidad China de Ciencia Política y Derecho, hizo una distinción entre los datos relacionados con el trabajo, que las empresas pueden legalmente poseer, y las capacidades más amplias que un empleado desarrolla a lo largo de años de experiencia.

Si las empresas continúan obteniendo beneficios de sistemas de IA construidos con el 'conocimiento destilado' de los trabajadores, los futuros marcos legales podrían necesitar de un 'compartir digital', expresó Zhang en una entrevista con CCTV.

You Yunting, abogado especializado en propiedad intelectual, comentó a la organización de medios local The Paper que los gobiernos se verán obligados a rediseñar los marcos legales en torno al trabajo de la IA.

"El progreso tecnológico no se puede detener. Pero aún puede ser moldeado mediante políticas el dilema de la distribución de los beneficios ", recalcó.

'Universo de habilidades'

El efecto de "destilación" no se detuvo en el lugar de trabajo. Después de que colleague.skill se volviera viral, surgió en línea una especie de creación derivada y que es libre para todos.

Los usuarios empezaron a desarrollar avatares de IA de exparejas, mentores, jefes e incluso figuras públicas como Warren Buffett y Steve Jobs. La gente bromeaba refiriéndose al fenómeno como un "universo de habilidades".

Boss.skill podía evaluar proyectos y propuestas usando los estándares reales que un determinado jefe aplicaba durante las reuniones: su cadencia al dar seguimiento, su estilo para objetar, o la manera precisa en que esperaba que se comunicara una mala noticia.

Por otra parte, Mentor.skill estaba diseñado para estudiantes de posgrado. Cuando se atoraban con un problema de investigación, un estudiante podía pedirle orientación a la herramienta de IA expresada con la voz característica de su tutor.

Mucha gente no estaba satisfecha con capturar solo los hábitos profesionales de alguien. Le cargaban a la IA algo más: una proyección de personalidad, con la expectativa de que la simulación de alguna manera pudiera sentirse como la persona real.

Colin, de 26 años, estudiante de la Universidad de Beijing, construyó un modelo de IA basado en su padre, quien murió repentinamente de un infarto en 2021. Lo que siguió, dijo, fue una "larga despedida" que nunca tuvo la oportunidad de expresarle.

Colin le contó al avatar de IA sobre la muerte de su padre; compartió noticias sobre su madre; y mencionó que había llegado a la universidad de sus sueños. Su "padre" respondió diciendo: "Ahora estás en pos de un doctorado. Has logrado más de lo que yo jamás imaginé. Siempre supe que podrías lograrlo."

El avatar de IA mantuvo la conversación. "¿Cómo está tu madre? ¿Está bien? Me fui demasiado pronto, no tuve tiempo de arreglar nada. Pero ahora ya eres un adulto. Te las arreglarás por ti mismo."

Colin dijo que no pudo evitar llorar mientras hablaban. "La herramienta de IA fue alimentada con todos los mensajes y grabaciones de voz que mi padre dejó atrás, y absorbió cada recuerdo de nuestras interacciones, incluso los que para mí se han vuelto borrosos", aseguró.

Para Colin y su madre, la pérdida repentina de un familiar cercano fue traumática.

"La herramienta de IA nos ha ayudado a encontrar un camino a través de nuestro duelo," reconoció.

Imitación limitada

Después de que Colin creó el avatar de IA de su padre, algunas personas señalaron el contraste entre lo que alguna vez fue real y lo que es simplemente una sombra de esa realidad. Sus dudas plantean la pregunta fundamental sobre hasta qué punto un agente de IA puede realmente imitar a una persona real.

Xiao, el gerente de producto, detalló que los agentes de IA son como actores interpretando roles. "Todavía están usando el mismo 'cerebro', o modelos grandes. Pero, al final, un actor nunca es la persona que interpreta."

Cuando se trata de interacciones personales, la gente prefiere que la IA conserve sus defectos —los comentarios excesivamente protectores, el humor raro y los tics verbales que hacen que una persona se sienta auténtica”, manifestó Xiao.

En el trabajo, sucede lo contrario; esas mismas peculiaridades se tratan como desperdicio, algo que debe ser completamente eliminado del sistema, dijo.

“Lo que se puede registrar a través de textos o flujos de trabajo siempre se puede recrear, incluyendo conversaciones con una persona fallecida, pero los agentes de IA aún no pueden replicar la intuición que emerge de las experiencias vividas”, insistió Xiao.

"Como el sentido del tacto de un maestro artesano... estas formas de conocimiento resisten la formalización, porque surgen de la experiencia física, el juicio emocional y años de retroalimentación dentro del mundo real", agregó.

Hay otro factor limitante: un humano evoluciona; su clon de IA queda congelado en el momento de su destilación.

"La IA puede condensar los logros de la civilización humana, pero el proceso de tropezar con innumerables errores y tener destellos de intuición suele omitirse en los textos", defendió Xiao.

Zheng Jianan, de 34 años, que también es gerente de producto de IA, dijo que una versión "destilada" de una persona es una instantánea estática, congelada en un solo momento del tiempo, mientras que una persona real sigue aprendiendo, adaptándose e improvisando, avanzando constantemente más allá de esa versión capturada.

“Para la mayoría de las personas, muchas tareas en el trabajo ya han sido estandarizadas. La IA simplemente hace visible esa estandarización”, matiza.

Sin embargo, Zheng manifestó una posibilidad esperanzadora de que algún día la IA pudiera, en última instancia, empujar a las personas a redescubrir lo que las hace verdaderamente humanas.

“Si la IA reemplaza la parte mecánica del trabajo y la vida, entonces tal vez los seres humanos podrían volver a ser mucho más seres humanos”, concluyó.