Cientistas de IA pedem plano de contingência global diante do medo de perder o controle

Um grupo de pesquisadores de inteligência artificial está defendendo a criação de um plano de contingência destinado a prevenir resultados catastróficos caso os sistemas de IA se tornem incontroláveis.

Em uma declaração recente, eles expressaram preocupações sobre a possibilidade de perder a supervisão humana sobre a IA. Como resultado, isto poderia levar a consequências perigosas para a sociedade.

Pedido por uma supervisão global da inteligência artificial

A declaração, discutida pelo The New York Times, aponta para a falta de medidas de segurança atuais e pede um quadro de governança internacional.

O grupo enfatiza que as nações precisam criar autoridades capazes de detectar e responder a incidentes relacionados à IA e lidar com os riscos associados.

Além disso, há uma crescente necessidade de gerenciar modelos de inteligência artificial que possam representar grandes perigos em escala global.

A proposta dos cientistas segue discussões do International Dialogue on AI Safety, realizado no início deste mês em Veneza.

Esse evento, organizado pelo fórum sem fins lucrativos Safe AI Forum, reuniu especialistas em IA de vários países. O objetivo foi avaliar os riscos apresentados pelos avanços da IA.

Surpreendentemente, a carta de proposta para o plano de contingência teve a assinatura de mais de 30 cientistas de países incluindo os EUA, China, Reino Unido, Canadá e Singapura.

Uma das figuras relevantes envolvidas, a professora da Universidade Johns Hopkins, Gillian Hadfield, criticou a falta de uma autoridade global capaz de responder a crises potenciais decorrentes de sistemas de IA autônomos, enfatizando ainda mais a necessidade de uma ação coordenada.

O crescente risco dos avanços em IA

O chamado por um plano de contingência global surge em meio a preocupações sobre o rápido desenvolvimento dos sistemas de IA. Além disso, outro fator que corrobora com a situação é a diminuição da cooperação científica entre superpotências como os EUA e a China.

Em março, um relatório encomendado pelo Departamento de Estado dos EUA alertou sobre os riscos de segurança nacional “catastróficos” representados pela tecnologia IA que evolui rapidamente.

O relatório, baseado em entrevistas com mais de 200 especialistas, pintou um quadro sombrio do potencial da IA. A representação foi uma ameaça de extinção para a humanidade, caso a tecologia não seja controlada.

Mesmo com organizações internacionais como o G7 e as Nações Unidas começando a estruturar soluções para lidar com o crescimento da IA, as preocupações ainda persistem.

Por fim, muitos executivos de tecnologia argumentam que a regulamentação excessiva poderia impedir a inovação, especialmente na União Europeia, onde as discussões regulatórias são mais rigorosas.

Leia mais:

• Quem são os investidores brasileiros? Pesquisa identificou nove perfis
• Aldeia indígena busca tecnologias blockchain e Web3 para ter maior inclusão financeira
• Moedas memes associadas a Donald Trump despencam após debate presidencial