Предложение о «паузе» ИИ обманчиво и тревожно опасно

В прошлом месяце несколько технологических гигантовподписал письмопризывают к шестимесячной паузе в обучении моделей искусственного интеллекта (ИИ), более мощных, чем GPT-4.

Это письмо опасно и должно спровоцировать вдумчивых граждан. В нем подписавшиеся утверждают, что пауза даст человечеству больше времени для понимания и реагирования на потенциальные риски ИИ. Само письмо служит для Rally общественной поддержки OpenAI и его союзников, поскольку они консолидируют свое господство, создают расширенное инновационное лидерство и обеспечивают себе преимущество над Технологии , имеющей фундаментальное значение для будущего. Если это произойдет, это нанесет непоправимый вред американцам — нашей экономике и нашему народу.

Питер Вессенес — технолог и инвестор с глубокими корнями в цифровой валюте, токенизации и блокчейне. Один из первых, кто принял Bitcoin, он стал соучредителем Bitcoin Foundation в 2012 году и был первым представителем Криптo , который консультировал GAO Сената США, Министерство финансов США и другие агентства по поводу Bitcoin.

GPT-4 и аналогичные модели фундамента обещают увеличить Human возможности в 1000 раз, стимулируя социальные изменения во многих сферах жизни. Индустрия в ее нынешнем виде, вероятно, укрепит клику, решающую, кто выигрывает от этой Технологии.

Представьте, если бы в 1997 году Microsoft и Dell выпустили похожее письмо «Пауза», призывая остановить инновации браузеров и запретить новые сайты электронной коммерции на шесть месяцев, ссылаясь на собственные исследования, что Интернет уничтожит традиционные магазины и поможет Финансы терроризм. Сегодня мы бы признали это корыстным паникерством и попыткой регулятивного захвата.

Письмо «Пауза» ничем не отличается. Несколько откровенных, обаятельных лидеров пытаются захватить власть под предлогом защиты нас от опасностей ИИ. Они позиционировали себя как единственных арбитров, которые решают, какие технологии мир может увидеть и использовать, и решают, что делает ИИ «точным, безопасным, интерпретируемым, прозрачным, надежным, согласованным, заслуживающим доверия и лояльным».

Неправильно, когда горстка миллиардеров решает, что хорошо и безопасно для мира. Даже благонамеренные лидеры ИИ не должны обладать такой властью. Абсолютная власть развращает абсолютно.

Мир находится в гонке за моделями фундамента следующего поколения. Ни одна гонка не остановит и даже не замедлит исследования и разработки. Независимые лаборатории ИИ и зарубежные конкуренты, стремящиеся интегрировать передовой ИИ в свои системы, T остановятся; они будут неустанно продолжать.

Как мы можем гарантировать, что все люди получат выгоду от 1000-кратного улучшения, которое предлагает нам ИИ? Единственный путь — это свободная и открытая разработка, включая совместное использование возможностей, методологий и сетевых контрольных точек. Например, в течение многих лет EleutherAI лидирует, сопротивляясь предупреждениям мошенников о том, что GPT-2 и GPT-3 «слишком опасны» для общественности, бесстрашно публикуя исследования и модели. Нам нужно от 100 до 1000-кратного масштаба EleutherAI во всем мире. (Примечание: этот автор не связан с EleutherAI.)

Мы не должны останавливаться. Прямо сейчас мы все должны расставить приоритеты, инвестировать, вносить вклад и широко публиковать действительно открытые модели ИИ. Мы должны оставаться начеку против тех, кто стремится контролировать судьбу человечества.

Одиннадцать лет назад первые пионеры в сфере блокчейна объединились и создали Bitcoin Foundation, модель организации криптоиндустрии, уравновешивающей потребности и цели частных лиц с потребностями и целями компаний, которые должны были способствовать процветанию Криптo . Фонд охватывал множество людей и множество целей, но мы были едины в желании, чтобы Bitcoin процветал вне контроля какой-либо одной группы или клики. Я считаю, что нечто подобное необходимо и для Технологии ИИ, взяв лучшие уроки последнего десятилетия и более децентрализованных Технологии и сопоставив их с яростной приверженностью независимости, гуманности и открытости.

Предлагаемая пауза консолидирует контроль над разработкой ИИ среди богатых и могущественных. Вместо этого давайте вместе и открыто мчаться вперед. Я приглашаю единомышленников, скептиков и любопытных обсудить, как мы можем достичь лучшего будущего. Свяжитесь с другими, кто стремится сохранить ИИ свободным и открытым для всех наfreeaimovement.com.