OpenAI anunció que lanzará una versión especial de ChatGPT diseñada para usuarios menores de 18 años, con controles parentales y medidas de seguridad reforzadas.
La compañía explicó que esta decisión responde a la creciente interacción de adolescentes con la inteligencia artificial, en especial porque las conversaciones con el chatbot abarcan temas cada vez más personales y sensibles.
La empresa señaló en un comunicado que uno de los mayores desafíos es lograr una correcta predicción de la edad de los usuarios.
“Incluso los sistemas más avanzados a veces tienen dificultades para predecir la edad. Si no estamos seguros de la edad de alguien o tenemos información incompleta, optaremos por la vía más segura y optaremos por la experiencia para menores de 18 años , ofreciendo a los adultos formas de demostrar su edad para acceder a las capacidades de los adultos”, explicó la compañía en su blog oficial.
Lea aquí: Expertos en seguridad pide que niños no usen Google Gemini y lo consideran de “alto riesgo”
La nueva versión estará orientada a proteger a los menores, bloqueando el acceso a contenido sexual explícito y respondiendo de forma diferente a la de un adulto en situaciones de angustia. En casos excepcionales de riesgo extremo para la vida o la seguridad del usuario, OpenAI contempla la posibilidad de recurrir a las autoridades si los padres no pueden ser contactados.
El proyecto se fundamenta en dos principios: seguridad y libertad. OpenAI asegura que busca equilibrar ambos, pero que priorizará la protección de adolescentes cuando estos valores entren en conflicto.
“Queremos que los usuarios puedan usar nuestras herramientas como deseen, con un amplio margen de seguridad. El comportamiento predeterminado de nuestro modelo no propiciará conversaciones insinuantes, pero si un usuario adulto lo solicita, debería obtenerlo”, señaló la compañía, diferenciando las experiencias según la edad de quien interactúe con ChatGPT.
Además de las restricciones automáticas, OpenAI lanzará controles parentales a finales de este mes de septiembre. Estos permitirán que las familias gestionen cómo se muestra el chatbot en sus hogares.
Entérese: Cinco casos reales en los que la IA detecta lo que los médicos no
Entre las opciones estarán vincular la cuenta de un padre con la de su hijo adolescente (a partir de los 13 años), definir reglas de comportamiento específicas, desactivar funciones como la memoria y el historial de chat, recibir notificaciones en situaciones de angustia y establecer horarios de inactividad en los que los menores no podrán usar la herramienta.
OpenAI destacó que durante las últimas dos semanas ha sostenido conversaciones con expertos, grupos de defensa y formuladores de políticas para diseñar una experiencia más segura.
“Es fundamental contar con herramientas eficaces que guíen cómo estas tecnologías se manifiestan en la vida de los adolescentes, tanto en los momentos fáciles como en los difíciles”, subrayó la compañía.
Regístrate al newsletter