Rumo à Predição de Idade: OpenAI Adapta o ChatGPT para Adolescentes e Famílias

TL;DR

• A OpenAI está construindo um sistema de longo prazo para determinar se o usuário do ChatGPT tem mais ou menos de 18 anos, para adaptar as experiências.
• Usuários com menos de 18 anos serão direcionados a políticas apropriadas à idade, incluindo bloqueio de conteúdo sexual gráfico e, em casos raros de sofrimento, possível envolvimento de forças de segurança.
• Se a idade for incerta ou houver informações incompletas, o sistema fará o modo menor, com adultos tendo um caminho para comprovar a idade e desbloquear recursos para adultos.
• Controles parentais estarão disponíveis até o final do mês para guiar como o ChatGPT aparece na casa, junto com recursos de segurança como lembretes durante sessões longas.
• A segurança é priorizada quando princípios entram em conflito, refletindo o foco na proteção de jovens com o uso cada vez maior de IA.

Contexto e antecedentes

A OpenAI afirmou que tem expandido conversas com especialistas, grupos de defesa e legisladores para orientar seus esforços de tornar o ChatGPT o mais útil possível, ao mesmo tempo em que fortalece as proteções para adolescentes. A empresa enfatiza que a segurança dos adolescentes pode ter precedência sobre privacidade e liberdade quando os princípios entram em conflito, e delineia uma visão de como a tecnologia deve responder aos usuários mais jovens. Os adolescentes estão crescendo com IA, e o trabalho da OpenAI se enquadra em atendê-los onde estão neste cenário em evolução OpenAI. Nesse arcabouço, o objetivo não é apenas bloquear conteúdo, mas adaptar a experiência do usuário por idade. A abordagem reconhece que a resposta do ChatGPT a um de 15 anos deve diferir de uma resposta para um adulto e traça um caminho para um sistema de detecção de idade de longo prazo que informa políticas e design de interação OpenAI. O contexto também enfatiza a realidade prática de que, mesmo com sistemas avançados, a previsão de idade pode ser imperfeita. Quando há dúvidas, o sistema opta por comportamentos mais seguros de menor idade, e etapas adicionais de verificação permitem que adultos acessem recursos mais capazes.

O que há de novo

O comunicado descreve um plano para construir até um sistema de detecção de idade de longo prazo capaz de determinar se um usuário tem mais ou menos de 18 anos, habilitando modos de interação com base na idade no ChatGPT. Quando um usuário é identificado como menor de 18, a experiência será adaptada para políticas apropriadas à idade, incluindo restrições de conteúdo e salvaguardas de segurança. Em casos de sofrimento agudo, há menção de possível envolvimento de autoridades. Se a OpenAI não puder determinar com confiança a idade do usuário ou houver informações incompletas, o sistema seguirá o modo menor de 18 para minimizar riscos. Ao mesmo tempo, adultos terão um caminho para comprovar a idade e desbloquear recursos de adultos dentro do ChatGPT. Controles parentais estarão disponíveis até o final do mês para ajudar as famílias a orientar como o ChatGPT aparece em casa. Além disso, os recursos de segurança, como lembretes durante sessões longas para incentivar pausas, continuam disponíveis.

Por que isso importa (impacto para desenvolvedores/empresas)

Para desenvolvedores e empresas que utilizam o ChatGPT, a medida ressalta como a idade do usuário pode influenciar políticas, controles de conteúdo e design de interação. A abordagem sinaliza uma mudança para posturas de segurança configuráveis que podem se adaptar a diferentes faixas etárias, mantendo uma postura voltada à segurança. Também implica considerações de governança para conformidade, gestão de riscos e desenvolvimento de produtos ao atender públicos jovens. Ao formalizar um caminho sensível à idade, organizações podem planejar requisitos de verificação de idade, integrações de controles parentais e políticas de segurança claras que mapeiam para segmentos de usuários. A ênfase na segurança de adolescentes é um indicativo de como produtos de IA podem precisar equilibrar privacidade e liberdade em implementações do mundo real.

Detalhes técnicos ou Implementação

• Um sistema de longo prazo para inferir se o usuário tem mais ou menos de 18 anos, permitindo modos de interação baseados na idade no ChatGPT.
• Se o sistema identificar um usuário como menor de 18, a experiência do ChatGPT adotará políticas apropriadas à idade, incluindo bloqueio de conteúdo sexual gráfico e, em casos raros de sofrimento agudo, possível envolvimento de forças de segurança.
• Quando a idade é incerta ou as informações são incompletas, o sistema fará o modo menor de 18 para maximizar a segurança.
• Adultos terão um caminho para comprovar a idade e desbloquear capacidades para adultos dentro do ChatGPT.
• Controles parentais estarão disponíveis até o final do mês para ajudar as famílias a orientar como o ChatGPT aparece em casa.
• Lembretes no aplicativo durante sessões longas continuarão a incentivar pausas e uso seguro.

Principais conclusões

• A OpenAI busca um design sensível à idade para proteger adolescentes, oferecendo experiências para adultos por meio de verificação de idade.
• A abordagem voltada à segurança prioriza a proteção de jovens quando princípios entram em conflito e prevê envolvimento de autoridades em casos de distresse raros.
• Controles parentais estão no roteiro para ajudar as famílias a supervisionar o uso do ChatGPT, com lembretes de segurança durante sessões longas.
• A determinação de idade pode não ser perfeita; o modo seguro padrão garante uma linha de base conservadora para idades desconhecidas.
• O trabalho busca equilibrar segurança com usabilidade e estabelece fundamentos para governança escalável sobre o uso de IA por jovens.

Referências

• https://openai.com/index/building-towards-age-prediction