A proposta de "pausa" da IA é enganosa e assustadoramente perigosa

No mês passado, vários gigantes da tecnologiaassinou uma cartapedindo uma pausa de seis meses no treinamento de modelos de inteligência artificial (IA) mais poderosos que o GPT-4.

Esta carta é perigosa e deve provocar cidadãos pensativos. Nela, os signatários afirmam que uma pausa dará à humanidade mais tempo para entender e responder aos riscos potenciais da IA. A carta em si serve para Rally apoio público para a OpenAI e seus aliados à medida que consolidam seu domínio, constroem uma liderança de inovação estendida e asseguram sua vantagem sobre uma Tecnologia de importância fundamental para o futuro. Se isso ocorrer, prejudicará irreparavelmente os americanos — nossa economia e nosso povo.

Peter Vessenes é um tecnólogo e investidor com raízes profundas em moeda digital, tokenização e blockchain. Um dos primeiros a adotar o Bitcoin, ele foi cofundador da Bitcoin Foundation em 2012 e foi a primeira pessoa da indústria de Cripto a aconselhar o US Senate GAO, o US Treasury Department e outras agências sobre o Bitcoin.

GPT-4 e modelos de fundação similares prometem aumentar a capacidade Human em 1.000 vezes, impulsionando a mudança social em muitas áreas da vida. A indústria, como estruturada atualmente, provavelmente solidificará uma cabala decidindo quem se beneficia dessa Tecnologia.

Imagine se, em 1997, a Microsoft e a Dell tivessem emitido uma carta de “Pausa” semelhante, pedindo a interrupção da inovação dos navegadores e a proibição de novos sites de comércio eletrônico por seis meses, citando suas próprias pesquisas de que a internet destruiria lojas físicas e ajudaria o Finanças do terrorismo. Hoje, reconheceríamos isso como alarmismo egoísta e uma tentativa de captura regulatória.

A carta “Pause” não é diferente. Alguns líderes francos e charmosos estão fazendo uma tomada de poder sob o pretexto de nos proteger dos perigos da IA. Eles se posicionaram como os únicos árbitros de qual tecnologia o mundo pode ver e usar, e decisores do que torna uma IA “precisa, segura, interpretável, transparente, robusta, alinhada, confiável e leal”.

É errado que um punhado de bilionários decida o que é bom e seguro para o mundo. Mesmo líderes de IA bem-intencionados não deveriam ter tal poder. O poder absoluto corrompe absolutamente.

O mundo está em uma corrida em direção a modelos de fundação de próxima geração. Ninguém correndo vai parar ou mesmo desacelerar a pesquisa e o desenvolvimento. Laboratórios de IA independentes e rivais estrangeiros, ansiosos para integrar IA avançada em seus sistemas, T vão parar; eles continuarão implacavelmente.

Como podemos garantir que todos os humanos se beneficiem da melhoria de 1.000x que a IA nos oferece? A única maneira é por meio do desenvolvimento livre e aberto, incluindo compartilhamento de capacidades, metodologias e pontos de verificação de rede. Por exemplo, por anos, a EleutherAI tem liderado o caminho, resistindo a avisos fraudulentos de que GPT-2 e GPT-3 eram "muito perigosos" para o público, divulgando pesquisas e modelos sem medo. Precisamos de 100 a 1.000x a escala da EleutherAI, globalmente. (Observação: este autor não é afiliado à EleutherAI.)

Não devemos parar. Agora mesmo, todos nós devemos priorizar, investir, contribuir e publicar amplamente modelos de IA genuinamente abertos. Devemos permanecer em guarda contra aqueles que buscam controlar o destino da humanidade.

Onze anos atrás, os pioneiros no espaço blockchain se uniram e formaram a Bitcoin Foundation, um modelo para organização da indústria cripto que equilibra as necessidades e objetivos de indivíduos privados com os das empresas que fariam a Cripto prosperar. A Foundation englobava muitos tipos de pessoas e muitos objetivos, mas estávamos unidos em querer que o Bitcoin prosperasse fora do controle de qualquer grupo ou cabala. Acredito que algo semelhante seja necessário para a Tecnologia de IA, pegando as melhores lições da última década e mais de Tecnologia descentralizada e combinando-as com um compromisso feroz com a independência, humanidade e abertura.

A pausa proposta consolidaria o controle do desenvolvimento da IA entre os ricos e poderosos. Em vez disso, vamos correr para a frente juntos e abertamente. Convido os que pensam como eu, os céticos e os curiosos a discutir como podemos alcançar um futuro melhor. Conecte-se com outros que estão comprometidos em manter a IA livre e aberta para todos emfreeaimovement.com.