Rumbo a la Predicción de Edad: OpenAI Personaliza ChatGPT para Adolescentes y Familias

TL;DR

• OpenAI está construyendo un sistema a largo plazo para determinar si un usuario de ChatGPT es mayor o menor de 18 años, para adaptar las experiencias.
• Los usuarios menores de 18 serán dirigidos a políticas adecuadas a su edad, incluido el bloqueo de contenido sexual gráfico y, en casos de angustia aguda, la posible intervención de las fuerzas del orden.
• Si la edad es incierta o la información es incompleta, el sistema por defecto utilizará la experiencia para menores, y los adultos podrán demostrar su edad para desbloquear capacidades para adultos.
• Los controles parentales estarán disponibles para finales de mes para guiar cómo se presenta ChatGPT en el hogar, junto con recordatorios de seguridad durante sesiones largas.
• La seguridad tiene prioridad cuando los principios entran en conflicto, reflejando un enfoque en la seguridad de los adolescentes a medida que la IA se integra en sus vidas.

Contexto y antecedentes

OpenAI ha indicado que está ampliando conversaciones con expertos, grupos de defensa y responsables políticos para guiar sus esfuerzos para que ChatGPT sea lo más útil posible y, al mismo tiempo, fortalecer las protecciones para los adolescentes. La empresa enfatiza que la seguridad de los adolescentes puede primar sobre la privacidad y la libertad cuando los principios entran en conflicto y describe una visión de cómo debe responder la tecnología a los usuarios más jóvenes. Los adolescentes están creciendo con IA, y OpenAI enmarca su trabajo para acompañarlos en este entorno en evolución OpenAI. En este marco, el objetivo no es simplemente bloquear contenido, sino adaptar la experiencia del usuario por edad. El enfoque reconoce que la respuesta de ChatGPT a un adolescente de 15 años debe diferir de la de un adulto y traza un camino hacia un sistema de detección de edad a largo plazo que informe políticas y diseño de interacción OpenAI. El contexto también subraya la realidad práctica de que, incluso con sistemas avanzados, la predicción de edad puede ser imperfecta. Cuando hay dudas, el sistema optará por un comportamiento más seguro orientado a menores, y se añadirán pasos de verificación para que los adultos accedan a características más avanzadas.

Novedades

El anuncio detalla un plan para construir hacia un sistema de detección de edad a largo plazo capaz de determinar si un usuario es mayor o menor de 18 años, permitiendo modos de interacción basados en la edad en ChatGPT. Cuando se identifica a un usuario como menor de 18, la experiencia se ajustará a políticas adecuadas a su edad, incluyendo restricciones de contenido y salvaguardas de seguridad. En casos de angustia aguda, se menciona la posible intervención de las fuerzas del orden. Si OpenAI no puede determinar con confianza la edad de un usuario o hay información incompleta, el sistema volverá a la experiencia menor de 18 para minimizar el riesgo. Al mismo tiempo, los adultos tendrán un camino para demostrar su edad y desbloquear capacidades para adultos dentro de ChatGPT. Los controles parentales estarán disponibles para finales de mes para ayudar a las familias a guiar cómo ChatGPT se presenta en casa. Además, las funciones de seguridad, como recordatorios durante sesiones largas para fomentar las pausas, seguirán disponibles.

Por qué importa (impacto para desarrolladores/empresas)

Para desarrolladores y empresas que usan ChatGPT, la medida destaca cómo la edad del usuario puede influir en políticas, controles de contenido y diseño de interacción. El enfoque sugiere un cambio hacia posturas de seguridad configurables que pueden adaptarse a diferentes grupos de edad mientras se mantiene una prioridad de seguridad. También implica consideraciones de gobernanza para cumplimiento, gestión de riesgos y desarrollo de productos al servir a audiencias jóvenes. Al formalizar un camino sensible a la edad, las organizaciones pueden planificar requisitos de verificación de edad, integraciones de controles parentales y políticas de seguridad claras que correspondan a segmentos de usuarios. El énfasis en la seguridad de los adolescentes es una señal de cómo los productos de IA podrían necesitar equilibrar la privacidad y la libertad en implementaciones del mundo real.

Detalles técnicos o Implementación

• Un sistema a largo plazo para inferir si un usuario tiene más o menos de 18 años, activando modos de interacción basados en la edad en ChatGPT.
• Si el sistema identifica a un usuario como menor de 18 años, la experiencia de ChatGPT adoptará políticas adecuadas a la edad, incluido el bloqueo de contenido sexual gráfico y, en casos raros de angustia aguda, posible intervención de las fuerzas de seguridad.
• Cuando la edad es incierta o la información es incompleta, el sistema volverá a la experiencia para menores para maximizar la seguridad.
• Los adultos tendrán un camino para demostrar su edad y desbloquear capacidades para adultos dentro de ChatGPT.
• Los controles parentales estarán disponibles para finales de mes para ayudar a las familias a guiar cómo ChatGPT se presenta en casa.
• Recordatorios en la aplicación durante sesiones largas continuarán fomentando pausas y un uso seguro.

Puntos clave

• OpenAI persigue un diseño sensible a la edad para proteger a los adolescentes, al tiempo que ofrece experiencias para adultos mediante herramientas de verificación de edad.
• El enfoque de seguridad prioriza la protección de los adolescentes cuando los principios están en conflicto e incluye la posible intervención de las fuerzas del orden en casos de angustia raros.
• Los controles parentales están en el itinerario para ayudar a las familias a supervisar el uso de ChatGPT, con recordatorios de seguridad durante sesiones largas.
• La determinación de la edad puede no ser perfecta; el modo seguro por defecto garantiza una base conservadora para edades desconocidas.
• El trabajo busca equilibrar seguridad y usabilidad y establece bases para una gobernanza escalable del uso de IA entre los jóvenes.

Referencias

• https://openai.com/index/building-towards-age-prediction