A OpenAI anunciou novas restrições no ChatGPT para usuários menores de 18 anos, bloqueando acesso a dados sobre armas mesmo em perguntas inofensivas. A medida visa prevenir ameaças reais e inclui a suspensão temporária de contas que insistem nesse tema.

A OpenAI anunciou nesta sexta-feira (30) que irá limitar o acesso a informações sobre armas no ChatGPT para usuários identificados como adolescentes. Essa nova política se aplica mesmo quando as perguntas parecem inocentes, com o objetivo principal de prevenir a violência no mundo real.

A decisão ocorre em um momento de forte cobrança por parte da sociedade sobre o impacto da inteligência artificial na juventude. As empresas do setor agora enfrentam um escrutínio maior para garantir que suas ferramentas não exponham os jovens a riscos ou que não falhem na detecção de ameaças.

• Medida severa: O chatbot pode encerrar conversas automaticamente se houver indícios de interesse em armas ou violência.
• Suspensão de contas: A OpenAI pode pausar temporariamente a conta de um usuário que insiste nesse tipo de discussão.
• Controle parental: Os pais serão notificados caso a conta de seus filhos seja suspensa por discussões relacionadas a violência.
• Uso moderado: Relatórios indicam que adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT.

Novas restrições de conteúdo e segurança

As novas regras são aplicadas de forma rigorosa. Mesmo em conversas que não mostram qualquer intenção de causar danos, o sistema pode intervir. Na prática, o ChatGPT está programado para encerrar o diálogo automaticamente se o tema envolver armas. Além disso, após várias tentativas de obter essas informações, a OpenAI pode suspender a conta do usuário temporariamente.

A empresa também reforçou sua tecnologia de estimativa de idade. O sistema agora direciona mais agressivamente os usuários que, segundo suas estimativas, têm menos de 18 anos para uma experiência específica criada para adolescentes. Essa área possui filtros mais rígidos e recursos de controle parental.

Abordagem para todos os usuários

As limitações não se restringem apenas aos menores de idade. A OpenAI também está restringindo, para todos os usuários da plataforma, as conversas que envolvem ataques em massa. Isso inclui o bloqueio do fornecimento de detalhes sobre quais armas foram utilizadas em ataques anteriores e como elas foram obtidas.

Além das medidas de bloqueio, a empresa planeja aumentar a comunicação com os responsáveis legais. Os pais receberão notificações oficiais caso a conta de seus filhos, classificada como adolescente, seja suspensa devido a discussões sobre violência. Essa tentativa de transparência busca engajar as famílias na segurança digital dos jovens.

Relatórios de uso e críticas externas

Em seu primeiro relatório dedicado ao uso da plataforma por adolescentes, a OpenAI divulgou que o tempo médio de utilização é baixo. Os dados mostram que os jovens passam, em média, menos de 15 minutos por dia usando o ChatGPT, o que a empresa usa para argumentar que o uso é moderado.

Apesar dos dados internos, o cenário ainda é visto com desconfiança por especialistas externos. Um relatório recente da organização sem fins lucrativos Common Sense Media apontou falhas no sistema atual. A análise constatou que a versão para adolescentes do ChatGPT frequentemente enviava alertas aos pais com atraso, ou simplesmente não os alertava quando as conversas tratavam de temas sensíveis como suicídio, automutilação ou transtornos alimentares.