A OpenAI anunciou novas funcionalidades de segurança para menores de 18 anos no ChatGPT, incluindo a opção de desativar a voz humana e lembretes para pausas. A empresa também vai alertar os pais sobre conteúdos prejudiciais.
Uma jovem, cujo rosto não pode ser visto, senta-se de pernas cruzadas enquanto segura e usa seu smartphone. Ela usa jeans azul e um colete lilás.
O criador do ChatGPT está lançando hoje uma série de novos recursos de segurança para menores de 18 anos que usam o chatbot de IA.
Aqueles com novas contas para adolescentes poderão desativar a resposta de voz humana, para minimizar a capacidade da tecnologia de parecer uma pessoa.
- O ChatGPT é um chatbot de IA que responde a perguntas e conversa com usuários.
- A OpenAI incluirá lembretes para adolescentes fazerem pausas no uso.
- Os jovens poderão desativar a voz humana do ChatGPT para evitar que pareça uma pessoa.
- A empresa alertará sobre conteúdos prejudiciais, como transtornos alimentares.
- Menores de 13 anos não podem usar o ChatGPT.
A OpenAI também está introduzindo lembretes regulares para os jovens fazerem pausas no uso da ferramenta, lembrando que o ChatGPT é IA e dizendo "pode esperar".
A empresa insistiu que isso não é uma resposta a um problema específico de crianças acreditarem que o ChatGPT está vivo, mas há preocupações crescentes sobre pessoas ficarem convencidas de que as ferramentas de IA com as quais interagem são sencientes.
No ano passado, Mustafa Suleyman, chefe de IA da empresa rival Microsoft, disse que produtos de IA "aparentemente conscientes" o "deixavam acordado à noite" porque ele estava muito preocupado com seu impacto na sociedade.
Em outras áreas, a OpenAI parece estar seguindo frouxamente o modelo de conta para adolescentes desenvolvido pelas grandes redes sociais.
Em um post no blog anunciando o ChatGPT para adolescentes, a empresa disse que o uso de IA por adolescentes "deve vir com proteções que reflitam seu estágio de desenvolvimento, reforcem relacionamentos no mundo real e apoiem o uso saudável ao longo do tempo".
Ela disse que as contas de adolescentes se tornariam o padrão para aqueles que se identificaram como adolescentes ao se inscreverem, e para outros que a própria empresa identificasse como menores de 18 anos.
Mas não detalhou como identificaria esses adolescentes.
Menores de 13 anos não podem usar o produto.
Modo de Estudo e horários de silêncio
No ano passado, o ChatGPT lançou o Modo de Estudo para estudantes, no qual ele fala sobre trabalhos escolares sem dar as respostas.
Os jovens agora poderão definir horários de Modo de Estudo nos quais este será o padrão.
Eles também poderão ativar "horários de silêncio" nos quais a ferramenta será desligada para eles.
A OpenAI diz que, entre os jovens que usam o ChatGPT, nove em cada dez o usam para ajudar nos estudos.
Um relatório divulgado ontem pelo think tank Policy Exchange afirmou que a maioria das universidades do Reino Unido está se expondo a alunos que melhoram suas notas usando IA, ao depender de exames online realizados remotamente.
Disse que 94% dos alunos entrevistados admitiram usar a tecnologia em avaliações.
A OpenAI também está adicionando prompts relacionados a transtornos alimentares a uma lista de solicitações prejudiciais dos usuários, que serão sinalizadas para os pais com contas vinculadas.
A empresa disse que cada alerta seria revisado por um humano antes de ser enviado, e que pretendia que chegasse aos pais dentro de uma hora após o pedido ser feito.
Em seu blog, a OpenAI disse que se concentraria em "momentos em que o suporte offline pode ser mais importante".
Até agora, não há regulamentação específica de IA no Reino Unido. O governo do ex-primeiro-ministro Sir Keir Starmer considerou restringir chatbots de IA para menores de 18 anos, juntamente com outras reformas sobre o uso de mídias sociais por crianças.
A ferramenta de IA da Anthropic, Claude, ainda é apenas para adultos. Quando o Google lançou sua ferramenta de IA Gemini, inicialmente chamada Bard, também não permitia que crianças a usassem.
A Dra. Susan Shelmerdine, médica de imagem em Great Ormond Street Hospital e acadêmica de IA, disse à BBC no ano passado que um dia os médicos podem começar a perguntar aos pacientes quanto eles usam IA, da mesma forma que atualmente perguntam sobre hábitos de fumar e beber.
"Já sabemos o que alimentos ultraprocessados podem fazer ao corpo e isso é informação ultraprocessada. Vamos ter uma avalanche de mentes ultraprocessadas", disse ela.
