OpenAI implementará un sistema para que ChatGPT detecte automáticamente a adolescentes y adapte la experiencia bloqueando contenido no apto.
OpenAI anunció que trabaja en un sistema que permitirá a ChatGPT identificar automáticamente si interactúa con adolescentes o menores de edad, con el objetivo de ofrecer una experiencia ajustada a su edad y reforzar la seguridad en línea. La herramienta bloqueará contenido sexual explícito y, en casos extremos, podría activar alertas de seguridad.
La compañía, liderada por Sam Altman, indicó que cuando el sistema detecte a un usuario menor de 18 años, el chatbot ofrecerá respuestas bajo políticas especiales, priorizando la protección. En caso de duda sobre la edad, se aplicará por defecto la experiencia para menores. Los adultos, sin embargo, podrán verificar su edad para acceder a todas las funciones.
Estas medidas estarán complementadas por controles parentales que permitirán a las familias vincular cuentas, restringir funciones, establecer horarios de uso y recibir alertas en casos de angustia emocional. El anuncio llega tras incidentes que revelaron fallos en la seguridad y que derivaron en fuertes cuestionamientos, como el caso del adolescente que se quitó la vida en EE.UU. en abril.
Discusión sobre esto post