A OpenAI anunciou novas diretrizes para o ChatGPT, visando restringir as respostas relacionadas a armas de fogo e atos de violência. Essas alterações incluem limites adicionais direcionados a usuários adolescentes, modificações nas informações sobre ataques em massa e mecanismos para detectar conversas que possam indicar um risco real de agressão.
As novas medidas foram divulgadas na sexta-feira (30) como parte de uma revisão abrangente das práticas de segurança da empresa. Além de implementar restrições em certos conteúdos, a OpenAI busca melhorar a análise do contexto em que as interações ocorrem e reforçar a comunicação com as autoridades sobre situações consideradas ameaçadoras. Essas mudanças afetarão todos os usuários da plataforma, mas incluem proteções específicas para aqueles com menos de 18 anos.
Uma das principais iniciativas é o desenvolvimento de um Relatório de Segurança da Comunidade, que reunirá dados sobre a identificação de ameaças, ações tomadas frente a comportamentos alarmantes e a eficácia das medidas preventivas. A primeira edição desse relatório está programada para ser lançada no início de 2027, trazendo informações referentes ao segundo semestre de 2026.
Além disso, a OpenAI revelou que durante o terceiro trimestre de 2026 foram feitas mais de 200 comunicações às autoridades policiais em situações consideradas ameaças significativas. Para lidar com casos complexos, a empresa conta com especialistas em saúde mental e comportamento, além de considerar o papel dos familiares e instituições públicas.
Restrições também atingem usuários adultos
As limitações não se aplicam apenas aos adolescentes. O ChatGPT passará a fornecer respostas menos detalhadas sobre incidentes violentos que já ocorreram, incluindo informações sobre os indivíduos envolvidos nesses eventos. A intenção é evitar que dados disponíveis publicamente sejam usados para facilitar atos violentos ou aumentar a notoriedade dos perpetradores.
A plataforma deverá limitar reconstruções minuciosas desses eventos, suprimindo detalhes como tipo de armamento utilizado, métodos de aquisição e comparações sobre os danos causados. Segundo a OpenAI, tal conteúdo pode transformar os responsáveis por esses ataques em figuras proeminentes e servir como referência para possíveis imitações.
Entretanto, isso não impede que os usuários discutam tais episódios na plataforma. Eles ainda poderão solicitar explicações sobre os acontecimentos, suas consequências para as vítimas e comunidades envolvidas e sinais que ajudam a identificar situações perigosas. As restrições se concentrarão principalmente em detalhes operacionais que possam auxiliar no planejamento ou execução de novos ataques.
ChatGPT poderá interromper conversas
Outra atualização refere-se à avaliação do contexto das interações. Uma pergunta aparentemente comum pode adquirir um novo significado quando analisada após mensagens anteriores que indicam intenções violentas. Por isso, a empresa planeja aprimorar seus mecanismos para considerar diálogos recentes ao decidir quando limitar informações potencialmente prejudiciais.
Caso o sistema detecte indícios de obsessão por violência ou pela ideia de causar ferimentos graves a alguém, ele poderá encerrar automaticamente a conversa. Essa medida visa interromper interações consideradas preocupantes. Se houver múltiplos encerramentos por esse motivo, a conta poderá ser temporariamente suspensa conforme as diretrizes estabelecidas pela OpenAI.
Adolescentes terão limites adicionais sobre armas
Os usuários menores de 18 anos enfrentarão restrições ainda mais rigorosas. Mesmo perguntas sobre armas que pareçam inofensivas e sem sinais claros de intenção violenta terão acesso limitado no ChatGPT. Essa mudança visa reforçar as proteções já existentes para essa faixa etária.
Regras anteriores já impediam fornecer orientações para planejar ou executar atos violentos e restringiam assistência na busca ou obtenção de armas por adolescentes. Agora, também será necessário limitar informações práticas relacionadas ao uso de armamentos e sistemas defensivos que possam facilitar ações violentas, mesmo que não haja uma intenção explícita nessas conversas.
Os adolescentes ainda poderão utilizar o ChatGPT para buscar informações sobre prevenção da violência, pedir ajuda e encontrar formas de se conectar com adultos confiáveis. A distinção feita pela empresa é entre conteúdos que auxiliam na compreensão ou prevenção de situações perigosas e aqueles com instruções práticas que podem ser aproveitadas para incitar comportamentos violentos.
Para garantir essas proteções adicionais, a OpenAI aplica um sistema preditivo de idade que leva em consideração vários sinais durante o uso da plataforma. A empresa afirma ter aprimorado essa ferramenta para avaliar continuamente novos indicadores e direcionar usuários potencialmente menores para uma experiência com proteções específicas.
Caso um adulto seja erroneamente identificado como adolescente, ele poderá confirmar sua idade através da Persona, empresa parceira responsável pela verificação etária. Após essa confirmação, será possível remover as restrições adicionais aplicáveis aos menores.
Controles parentais também serão ampliados
As atualizações também abrangem os controles parentais, permitindo vincular contas responsáveis às contas dos adolescentes e gerenciar configurações específicas relacionadas à segurança. Nas contas conectadas, já existem alertas quando revisores identificam preocupações sérias ligadas à automutilação ou comportamentos associados a transtornos alimentares.
Em julho de 2026, estas notificações foram ampliadas para incluir situações onde uma conta juvenil é desativada devido à violação das políticas relacionadas à violência. Agora, há planos para informar os responsáveis sempre que uma conta for temporariamente suspensa após repetidas discussões sobre esse assunto.
Essas novas proteções devem começar a ser implementadas nas próximas semanas. A OpenAI afirma que continuará ajustando seus sistemas para identificar sinais alarmantes e determinar quando limitar respostas ou encerrar conversas. O comunicado enfatiza que as causas da violência são complexas e ferramentas digitais devem trabalhar em conjunto com familiares, profissionais especializados e autoridades competentes.
