A OpenAI anunciou um novo plano para fortalecer a proteção de crianças nos Estados Unidos em resposta ao aumento das preocupações com a segurança infantil na internet. O documento, denominado Child Safety Blueprint, foi divulgado na terça-feira e propõe melhorias na detecção, no reporte e na investigação de casos de exploração infantil envolvendo inteligência artificial. Essa iniciativa surge em um contexto preocupante, já que a Internet Watch Foundation (IWF) registrou mais de 8 mil denúncias de conteúdo de abuso sexual infantil gerado por IA no primeiro semestre de 2025, representando um aumento de 14% em relação ao ano anterior. Os casos incluem o uso de ferramentas para criar imagens falsas e mensagens destinadas ao aliciamento.

O lançamento do plano ocorre em um momento em que legisladores, educadores e organizações de proteção infantil estão cada vez mais atentos ao tema. A questão ganhou destaque após relatos de jovens que cometeram suicídio após interações com chatbots de IA. Em novembro, o Social Media Victims Law Center e o Tech Justice Law Project processaram a OpenAI em tribunais estaduais da Califórnia, alegando que a empresa lançou o GPT-4 antes de estar pronto. Os processos mencionam quatro mortes por suicídio e três casos de delírios graves após interações prolongadas com o chatbot, sugerindo uma possível influência do sistema.

O blueprint foi desenvolvido em colaboração com o National Center for Missing and Exploited Children (NCMEC) e a Attorney General Alliance, com contribuições dos procuradores-gerais Jeff Jackson, da Carolina do Norte, e Derek Brown, de Utah. O plano da OpenAI se concentra em três frentes principais: a atualização das leis para incluir materiais gerados por IA, o aprimoramento dos mecanismos de comunicação com as autoridades e a integração de medidas preventivas diretamente nos sistemas de inteligência artificial. A proposta visa aumentar a capacidade de identificação precoce de riscos e garantir que informações relevantes sejam encaminhadas rapidamente para investigações.

Além disso, o blueprint se baseia em iniciativas anteriores da OpenAI, como diretrizes atualizadas para interações com usuários menores de 18 anos. Essas regras proíbem a geração de conteúdo inadequado, o incentivo à automutilação e orientações que ajudem jovens a esconder comportamentos inseguros de responsáveis. Recentemente, a empresa também lançou um plano de segurança voltado a adolescentes na Índia.