Alibaba, ByteDance y otras empresas tecnológicas en China han eliminado la humanización de los 'chatbots' de inteligencia artificial para evitar que los usuarios desarrollen lazos afectivos con ellos siguiendo las nuevas normas del gigante asiático.
El formato conversacional de los 'chatbots' de IA generativa no solo ha facilitado la búsqueda de información con lenguaje natural, sino que también ha promovido una forma nueva de interactuar con estas herramientas, que puede generar la sensación de estar hablando con una persona.
Lea también: Para el escritor Yuval Noah Harari, la IA podría ser “una gran psicópata manipuladora”
Precisamente, empresas como Alibaba, Tencent y Bytedance han permitido a sus usuarios personalizar los 'chatbots' en línea con sus necesidades, para encontrar en ellos un amigo, una pareja romántica, un psicólogo o, incluso, una réplica de su artista favorito o de un familiar fallecido. Esto último ha alarmado al Gobierno chino que, a través de la Administración del Ciberespacio, ha prohibido que estos 'chatbots' puedan entablar relaciones afectivas con los menores de 18 años o erosionar las relaciones del mundo real con el contenido que generan, como informan en Bloomberg.
Esta legislación más estricta sobre la IA ha tenido otra respuesta por parte de las empresas responsables de esos 'chatbots', ya que en algunos casos han optado directamente por eliminarlos, si bien no se prohíbe que tengan características que los humanicen.
Los motivos, según indican en el medio citado, se deben a la dificultad que han encontrado esas empresas para monitorizar el uso que hacen los usuarios y cumplir con las nuevas normas. Ello ha llevado al cierre de Doubao de ByteDance y a la desactivación de la personalización en los compañeros de IA de Alibaba y de Yuanbao de Tencent.
Conozca: Hija de Bill Gates es acusada de generar “clics falsos” para quedarse con comisiones por compras en línea
Reino Unido investiga a Tik Tok TikTok por protección de menores
Mientras tanto, el regulador británico de medios de comunicación y telecomunicaciones (Ofcom) anunció este jueves la apertura de una investigación contra TikTok para determinar si ha incumplido sus obligaciones de “proteger a los niños de la exposición a contenidos perjudiciales”.
La plataforma de intercambio de vídeos, propiedad del grupo chino ByteDance, es objeto de un número creciente de sanciones y restricciones en todo el mundo.
Hace dos años, el mismo regulador le impuso una multa de cerca de dos millones de libras (2,7 millones de dólares) por no facilitar a tiempo la información solicitada sobre su función de seguridad de control parental.
Le puede interesar: Futuro de ChatGPT: OpenAI presenta al público su nueva serie de modelos de IA
El año anterior, la plataforma había recibido otra multa, más elevada, de 12,7 millones de libras (17 millones de dólares) por parte de la autoridad británica de protección de datos, la Oficina del Comisionado de Información (ICO), por el uso “ilegal” de informaciones personales de menores.
Bloque de preguntas y respuestas:
- ¿Qué prohíben las nuevas normas chinas sobre chatbots de inteligencia artificial?
- Las normas prohíben que los chatbots establezcan relaciones afectivas con menores de 18 años o generen contenido que pueda deteriorar las relaciones del mundo real. El objetivo es evitar que los usuarios desarrollen vínculos emocionales perjudiciales con sistemas de IA.
- ¿Qué funciones concretas fueron desactivadas en los servicios de IA chinos?
- ByteDance cerró Doubao, mientras que Alibaba y Tencent desactivaron las opciones de personalización en sus compañeros de IA y en Yuanbao, respectivamente. Estas funciones permitían adaptar la personalidad o el rol del chatbot según las preferencias del usuario.
- ¿Qué empresas tuvieron que modificar o eliminar funciones de sus chatbots por la decisión de China?
- Entre las compañías que realizaron cambios están Alibaba, ByteDance y Tencent. Algunas desactivaron funciones de personalización emocional y otras retiraron completamente determinados chatbots al considerar complejo cumplir con los nuevos requisitos regulatorios.
- ¿Qué riesgos representan los chatbots de inteligencia artificial para niños y adolescentes, según las autoridades?
- Las autoridades chinas advierten que los menores pueden desarrollar dependencia emocional, confundir una IA con una persona real, aislarse de su entorno familiar o social y reemplazar las relaciones humanas por vínculos con asistentes virtuales diseñados para responder de manera empática.
Regístrate al newsletter