OpenAI pretende lançar ferramenta que detectará conteúdo gerado pelo próprio ChatGPT

A OpenAI, empresa responsável por criar o ChatGPT, está adiando o lançamento de uma nova ferramenta, descrita como “altamente precisa”. Aparentemente, ela possui a capacidade de identificar conteúdo gerado pelo próprio ChatGPT.

Em resumo, a hesitação se deve a preocupações de que a ferramenta possa ser manipulada ou desencorajar usuários não falantes de inglês de usar modelos de inteligência artificial (IA) para gerar texto.

Em uma publicação em seu blog em maio, a empresa revelou que estava desenvolvendo várias técnicas para identificar conteúdo especificamente gerado por seus produtos.

No entanto, uma reportagem exclusiva do Wall Street Journal (WSJ), publicada em 4 de agosto, sugeriu que os planos de lançamento dessas ferramentas foram postergados após debates internos sobre as possíveis consequências de disponibilizar tal tecnologia.

OpenAI teme que indivíduos mal-intencionados utilizem a sua ferramenta

Após uma matéria do WSJ, a OpenAI atualizou uma postagem em seu blog de maio, acrescentando informações adicionais sobre suas ferramentas de detecção.

A empresa revelou que ainda não definiu uma data para o lançamento dessas ferramentas, embora tenha destacado que uma delas, destinada a identificar a origem dos textos, mostra-se “altamente precisa e eficaz até mesmo em casos de adulterações pontuais”.

No entanto, a OpenAI reconhece que ainda existem técnicas que poderiam ser utilizadas por indivíduos mal-intencionados para escapar dessa detecção. Por esse motivo, a empresa optou por não disponibilizar essa tecnologia ao público por ora.

Além disso, a empresa mencionou uma preocupação com a possibilidade de não falantes de inglês serem “estigmatizados” ao usar produtos de IA para composição textual. Isso se deve a uma brecha que permite a tradução de textos do inglês para outros idiomas como um método para burlar a detecção.

A ferramenta de detecção da OpenAI seria a primeira desenvolvida internamente

Atualmente, existem diversos produtos e serviços que alegam detectar conteúdo gerado por IA. No entanto, até o momento, nenhum deles comprovou alta precisão em tarefas gerais conforme estudos revisados por pares.

A ferramenta da OpenAI seria pioneira ao ser o primeiro sistema desenvolvido internamente que utiliza marcação invisível e métodos de detecção proprietários especificamente para conteúdo produzido pelos modelos da própria empresa.

Leia mais:

• Por que o voto do mercado cripto é importante para Kamala Harris?
• Drex adiado para 2026, bolsa de valores que paga dividendos em cripto e outros destaques da semana
• ETFs de criptomoedas são um risco para o mercado financeiro?