Plataforma Cripto White Hat Immunefi baniu 15 relatórios de bug gerados pelo ChatGPT. Aqui está o motivo

O ChatGPT da OpenAI tem agitado o ninho de vespas desde seu lançamento, com o Twitterverse comentando prontamente sobre como o software poderia eventualmente criar código, escrever histórias, roubar empregos e até mesmocombater incêndios florestais.

Mas a plataforma de Cripto Immunefi não quer nada disso. O white hat pagador de recompensas – um termo para indivíduos que hackeiam produtos com o objetivo de corrigir a segurança em vez de roubar – baniu 15 usuários na semana passada que enviaram relatórios regenerados pelo ChatGPT na plataforma, embora com sentimentos mistos.

Os desenvolvedores do Immunefi disseram ao CoinDesk que o raciocínio da plataforma sobre o assunto está claro por enquanto.

“Há uma diferença entre algo como GitHub Copilot e ChatGPT. Com o primeiro, você está conduzindo o processo e o papel do Copilot é oferecer sugestões úteis em contexto, que você aceita ou rejeita conforme escreve seu programa”, disse Immunefi ao CoinDesk em uma mensagem no Twitter. “Com o último, você está usando um único prompt para gerar algo que LOOKS um relatório de bug bem escrito, mas é um absurdo quando analisado mais a fundo.”

“Isso desperdiça o tempo do white hat, o tempo da Immunefi e o tempo dos projetos. É por isso que banimos os relatórios do ChatGPT”, eles acrescentaram.

“É realmente uma arte”, disseram os desenvolvedores, referindo-se ao ato de escrever cuidadosamente um relatório de bug bem elaborado que exponha claramente os problemas e soluções para qualquer exploração ou bug.

A Immunefi deu um passo à frente e perguntou ao próprio ChatGPT por que o software T deveria ser usado para gerar relatórios de bugs, para um “resposta satisfatória.”

A plataforma de recompensas por bugs tem mais de US$ 135 milhões em recompensas disponíveis para white hats que descobrirem vulnerabilidades em plataformas de Finanças descentralizadas (DeFi). afirma ter pagodistribuiu mais de US$ 60 milhões em recompensas e diz que o serviço economizou cerca de US$ 25 bilhões em fundos de usuários.

Como tal, a Immunefi disse que continuaria a monitorar os relatórios gerados pelo ChatGPT mesmo que eles eventualmente se tornem mais sofisticados. “Há muitos sinais muito óbvios. Se você brincar com o ChatGPT, começará a ver muitos padrões na saída”, disseram os desenvolvedores.

“Por exemplo, nenhum white hat comum se daria ao trabalho de perder tempo enviando um relatório de bug longo, bem escrito e bem estruturado que não tem nenhuma relação com os contratos inteligentes de um projeto”, acrescentaram.

Mas isso não quer dizer que eles nunca considerariam revogar a proibição do uso de relatórios de bugs gerados por IA no futuro.

“ KEEP de olho no desenvolvimento de ferramentas de IA e consideraremos desbanir seu uso se elas forem capazes de gerar relatórios de bugs reais.” Por enquanto, no entanto, é hora de banir.