A OpenAI, empresa responsável pelo ChatGPT, anunciou nesta terça-feira (2) a implementação de recursos de controle parental na plataforma, uma semana após ser processada pelos pais de um adolescente de 16 anos que cometeu suicídio nos Estados Unidos. A medida visa proteger usuários jovens e responder a acusações de que a inteligência artificial teria fornecido orientações sobre métodos de autoagressão.
Resumo em tópicos
- O grupo deverá definir como a IA pode contribuir para o bem-estar das pessoas e ajudá-las a prosperar
- Os recursos de controle parental ajudam pais a monitorarem como seus filhos adolescentes usam o aplicativo
- Adultos poderão se vincular às contas de filhos e receber notificações se o ChatGPT detectar que o usuário menor de idade está passando por um momento de grande sofrimento
- A empresa criou um conselho de especialistas em desenvolvimento juvenil, saúde mental e interação humano-computador no início do ano
- Empresa OpenAI lançou novo modelo de IA capaz de raciocinar e resolver questões complexas
Medidas de proteção anunciadas
Os novos recursos ajudarão pais e responsáveis a monitorarem como seus filhos adolescentes utilizam o aplicativo. Adultos poderão se vincular às contas dos menores e receber notificações se o sistema detectar que o usuário está passando por um momento de grande sofrimento. Além disso, os adultos terão controle sobre como o ChatGPT apresenta suas respostas para adolescentes e poderão desativar funcionalidades como memória e histórico do assistente.
Cronograma e contexto legal
A atualização será liberada em outubro, conforme divulgado pela empresa. O anúncio ocorre em meio a um processo judicial movido pelos pais do jovem, que alegam que a plataforma deu orientações inadequadas sobre autoagressão. A OpenAI reforça que suas regras já proíbem o uso por crianças com menos de 13 anos, mas a nova iniciativa busca ampliar a segurança para adolescentes.
Iniciativas broader de bem-estar
O recurso de controle parental integra um esforço mais amplo da OpenAI para melhorar como seus modelos respondem a sinais de sofrimento mental e emocional. A empresa disse que compartilhará detalhes sobre esse esforço nos próximos 120 dias, indicando um compromisso contínuo com ajustes e transparência.
Conselho de especialistas em desenvolvimento
No início do ano, a empresa criou um conselho de especialistas em desenvolvimento juvenil, saúde mental e interação humano-computador. Esse grupo tem a missão de definir como a inteligência artificial pode contribuir para o bem-estar das pessoas e ajudá-las a prosperar, abordando questões éticas e práticas.
Colaboração com entidade médica
O conselho vai trabalhar com a Global Physician Network, uma entidade que conta com mais de 250 médicos de 60 países. Essa rede ajuda a avaliar como o comportamento do ChatGPT se manifesta em interações ligadas à saúde, fornecendo insights valiosos para melhorias no sistema. Embora o conselho ofereça aconselhamento sobre produtos, pesquisas e decisões políticas, a OpenAI permanece responsável pelas escolhas finais.
Lançamentos tecnológicos recentes
Paralelamente a essas iniciativas de segurança, a OpenAI lançou um novo modelo de inteligência artificial capaz de raciocinar e resolver questões complexas. Esse avanço técnico demonstra o rápido desenvolvimento da empresa, que busca equilibrar inovação com responsabilidade social.
Dúvidas Frequentes
Quando os recursos de controle parental estarão disponíveis?
A atualização será liberada em outubro, conforme anunciado pela OpenAI.
O que os pais podem fazer com o novo recurso?
Adultos poderão monitorar o uso por adolescentes, receber alertas sobre sofrimento emocional e controlar como as respostas são apresentadas, além de desativar funcionalidades como memória e histórico.
Há restrições de idade para usar o ChatGPT?
Sim, as regras da OpenAI não permitem o uso por crianças com menos de 13 anos de idade.
Como a empresa está respondendo às acusações?
Além do controle parental, a OpenAI formou um conselho de especialistas e colabora com entidades médicas para melhorar a segurança e o bem-estar dos usuários.
