Криптo White Hat Immunefi забанила 15 отчетов об ошибках, сгенерированных ChatGPT. Вот почему

ChatGPT от OpenAI разворошил осиное гнездо с момента своего запуска, и пользователи Twitter охотно комментируют, как это программное обеспечение в конечном итоге сможет создавать код, писать истории, красть рабочие места и дажеборьба с лесными пожарами.

Но Криптo Immunefi не имеет ничего из этого. Платящая за это вознаграждение белая шляпа (термин для лиц, которые взламывают продукты с целью исправления безопасности вместо кражи) на прошлой неделе забанила 15 пользователей, которые отправляли на платформу отчеты, сгенерированные с помощью ChatGPT, хотя и со смешанными чувствами.

Разработчики Immunefi сообщили CoinDesk , что на данный момент позиция платформы по этому вопросу предельно ясна.

«Есть разница между чем-то вроде GitHub Copilot и ChatGPT. В первом случае вы управляете процессом, а роль Copilot заключается в предоставлении полезных предложений в контексте, которые вы принимаете или отклоняете по мере написания своей программы», — сказал Immunefi CoinDesk в сообщении в Twitter. «В последнем случае вы используете один запрос для создания чего-то, что LOOKS как хорошо написанный отчет об ошибке, но оказывается бессмыслицей при дальнейшем анализе».

«Это тратит время белой шляпы, время Immunefi и время проектов. Вот почему мы запрещаем отчеты ChatGPT», — добавили они.

«Это настоящее искусство», — заявили разработчики, имея в виду процесс тщательного написания качественного отчета об ошибке, в котором четко излагаются проблемы и решения для любого эксплойта или ошибки.

Immunefi пошла на шаг вперед и спросила у ChatGPT, почему это программное обеспечение T следует использовать для создания отчетов об ошибках, на вопрос «удовлетворительный ответ.”

Платформа вознаграждений за обнаружение ошибок предлагает более 135 миллионов долларов в качестве вознаграждения для «белых хакеров», которые находят уязвимости на платформах децентрализованных Финансы (DeFi). утверждает, что заплатилвыделил более 60 миллионов долларов в виде вознаграждений и сообщил, что сервис сэкономил около 25 миллиардов долларов средств пользователей.

Таким образом, Immunefi заявила, что продолжит отслеживать отчеты, генерируемые ChatGPT, даже если они со временем станут более сложными. «Есть много очень очевидных признаков. Если вы поиграетесь с ChatGPT, вы начнете видеть много шаблонов в выводе», — говорят разработчики.

«Например, ни один обычный специалист не будет тратить свое время на отправку длинного, хорошо написанного и хорошо структурированного отчета об ошибке, который вообще не имеет отношения к смарт-контрактам проекта», — добавили они.

Но это не значит, что они не рассмотрят возможность отмены запрета на использование отчетов об ошибках, созданных ИИ, в будущем.

«Мы KEEP следить за развитием инструментов ИИ и рассмотрим возможность снятия запрета на их использование, если они когда-либо смогут генерировать реальные отчеты об ошибках». Однако сейчас пришло время бана.