Alibaba, ByteDance y otras empresas tecnológicas en China han eliminado la humanización de los 'chatbots' de inteligencia artificial para evitar que los usuarios desarrollen lazos afectivos con ellos siguiendo las nuevas normas del gigante asiático.
Lea también: Para el escritor Yuval Noah Harari, la IA podría ser “una gran psicópata manipuladora”
El formato conversacional de los 'chatbots' de IA generativa no solo ha facilitado la búsqueda de información con lenguaje natural, sino que también ha promovido una forma nueva de interactuar con estas herramientas, que puede generar la sensación de estar hablando con una persona.
Precisamente, empresas como Alibaba, Tencent y Bytedance han permitido a sus usuarios personalizar los 'chatbots' en línea con sus necesidades, para encontrar en ellos un amigo, una pareja romántica, un psicólogo o, incluso, una réplica de su artista favorito o de un familiar fallecido. Esto último ha alarmado al Gobierno chino que, a través de la Administración del Ciberespacio, ha prohibido que estos 'chatbots' puedan entablar relaciones afectivas con los menores de 18 años o erosionar las relaciones del mundo real con el contenido que generan, como informan en Bloomberg.
Esta legislación más estricta sobre la IA ha tenido otra respuesta por parte de las empresas responsables de esos 'chatbots', ya que en algunos casos han optado directamente por eliminarlos, si bien no se prohíbe que tengan características que los humanicen.
Los motivos, según indican en el medio citado, se deben a la dificultad que han encontrado esas empresas para monitorizar el uso que hacen los usuarios y cumplir con las nuevas normas. Ello ha llevado al cierre de Doubao de ByteDance y a la desactivación de la personalización en los compañeros de IA de Alibaba y de Yuanbao de Tencent.
Reino Unido investiga a Tik Tok TikTok por protección de menores
Mientras tanto, el regulador británico de medios de comunicación y telecomunicaciones (Ofcom) anunció este jueves la apertura de una investigación contra TikTok para determinar si ha incumplido sus obligaciones de “proteger a los niños de la exposición a contenidos perjudiciales”.
La plataforma de intercambio de vídeos, propiedad del grupo chino ByteDance, es objeto de un número creciente de sanciones y restricciones en todo el mundo.
Hace dos años, el mismo regulador le impuso una multa de cerca de dos millones de libras (2,7 millones de dólares) por no facilitar a tiempo la información solicitada sobre su función de seguridad de control parental.
Le puede interesar: La influencia oculta de la inteligencia artificial en el discurso público en redes sociales
El año anterior, la plataforma había recibido otra multa, más elevada, de 12,7 millones de libras (17 millones de dólares) por parte de la autoridad británica de protección de datos, la Oficina del Comisionado de Información (ICO), por el uso “ilegal” de informaciones personales de menores.
- ¿Qué prohíben las nuevas normas chinas sobre chatbots de inteligencia artificial?
- Las normas prohíben que los chatbots establezcan relaciones afectivas con menores de 18 años o generen contenido que pueda deteriorar las relaciones del mundo real. El objetivo es evitar que los usuarios desarrollen vínculos emocionales perjudiciales con sistemas de IA.
- ¿Qué funciones concretas fueron desactivadas en los servicios de IA chinos?
- ByteDance cerró Doubao, mientras que Alibaba y Tencent desactivaron las opciones de personalización en sus compañeros de IA y en Yuanbao, respectivamente. Estas funciones permitían adaptar la personalidad o el rol del chatbot según las preferencias del usuario.
- ¿Qué tipo de personalización ofrecían antes estos chatbots?
- Los usuarios podían configurar los chatbots para que actuaran como amigos, parejas románticas, psicólogos o incluso réplicas de artistas famosos o familiares fallecidos. Estas posibilidades fueron una de las principales preocupaciones de las autoridades chinas.
Regístrate al newsletter