A IA matará todos nós? Por que deveríamos falar sobre regulamentação?
Quando se trata de inteligência artificial, o debate sobre se a IA irá “matar-nos a todos” é menos importante do que perguntar por que demorou tanto tempo para alguém fazer algo a respeito.
O conceito de que a IA representa uma ameaça existencial não é novo. Chamada em 1991 em Terminator 2, esta ameaça tornou-se realidade após avisos de algumas das pessoas que trabalham nestes sistemas de IA. A última bandeira vermelha foi levantada na terça-feira, quando o pesquisador de IA humana Jacob Coxon disse: × Ele deixou a empresa, alegando que “as pessoas que desenvolvem IA acreditam seriamente que a IA poderia matar todos nós até o final da década”.
Levantar a potencial ameaça existencial da IA é admirável, mas ignora o ponto de supervisão de que este ecossistema realmente necessita. Embora se fale muito sobre as regulamentações e salvaguardas de IA necessárias nos serviços financeiros, na saúde e, claro, em Hollywood, há menos discussão sobre a supervisão das empresas que constroem modelos de IA.
“Gastamos muito tempo falando sobre como as empresas deveriam governar a IA, mas gastamos tão pouco tempo perguntando como a sociedade deveria governar as organizações que produzem a própria IA”, disse Dilip Sarangan, analista da Frost & Sullivan. Linkedin. “Quando a sociedade se tornou um ambiente experimental?”
E embora legisladores como o senador Bernie Sanders (D-Vermont) estejam a acordar para os perigos, enfrentam uma difícil batalha para aprovar regulamentos. Isto porque os maiores gigantes da tecnologia estão envolvidos numa corrida frenética para construir sistemas cada vez mais poderosos, na esperança de alcançar um estado final chamado superinteligência, onde a IA é autoconsciente e tem maiores capacidades cognitivas do que os humanos. A alternativa é deixar que os concorrentes, ou empresas fora da China, ganhem a competição. Não ajuda o facto de as empresas tecnológicas estarem largamente alinhadas com a administração Trump através de doações e presentes sociais, e de o próprio Trump ser apaixonado pela liderança dos EUA em IA.
É por isso que as empresas investem centenas de bilhões de dólares por ano nesses projetos e é por isso que pequenas startups de IA e talentos importantes podem angariar enormes quantias de financiamento. Na semana passada, Hugging Face, uma plataforma e comunidade de IA de código aberto, Concordou em ser adquirida pela gigante de semicondutores NVIDIA 12,9 bilhões de dólares. O FOMO está jogando um jogo tortuoso de dominação ou extinção mundial, e estamos presos no meio.
“A corrida armamentista da IA não nos deixou espaço para julgamento”, disse Maribel López, analista de tecnologia da López Research. “Isto é especialmente mau num ambiente onde as redes de segurança são atiradas pela janela em nome do progresso, porque ninguém quer ficar para trás.”
Coxon disse a mesma coisa em seu post: “Uma resposta comum é: ‘Se você realmente acredita nisso, por que ainda está construindo isso?'” Na OpenAI, muitas pessoas não internalizaram profundamente os interesses da civilização. Na antropia, os riscos são bem compreendidos, mas você está preso em uma corrida para chegar lá primeiro. Eles acreditam que ninguém agirá de forma responsável, por isso devem agir eles próprios, apesar dos riscos. ”
evite o perigo
A escala do perigo é tão grande que é difícil para a pessoa comum compreender. Porquê prestar atenção à ameaça existencial da IA que surgirá na próxima década, quando há preocupações mais prementes e concretas, como a possibilidade de a IA substituir o seu emprego, aumentar o custo do seu próximo portátil ou encorajar a construção de centros de dados na sua comunidade?
Mas o aviso de Coxon acrescenta um sinal crescente de que deveríamos pelo menos atendê-lo. Em julho, a chefe de ética da OpenAI, Chloe Bacalar, deixou repentinamente a empresa. Naquele mesmo mês, um agente de IA alimentado por modelos OpenAI se infiltrou no ambiente de contenção e começou a atacar o Hugging Face.
Em fevereiro, Mrinanku Sharma da Anthropic, que fundou a equipe de pesquisa de salvaguardas da Anthropic, renunciou repentinamente. Post longo sobre X “O mundo está em perigo, não apenas por causa da IA ou de armas biológicas, mas por toda uma série de crises interligadas que se desenrolam neste momento.”
Ele saiu completamente da área para “desaparecer por um período de tempo” e não escreveu mais nenhum post desde então.
A Anthropic não respondeu a um pedido de comentário, mas Evan Hubinger, diretor científico da empresa, postou: ×、 “Jacob está certo. Nós realmente acreditamos que a IA pode matar toda a humanidade!”
“Pessoalmente, acho que ultrapassará 10% nos próximos 10 anos. Acredito que a Anthropic está fazendo o seu melhor, mas ainda não temos um plano para resolver o alinhamento da superinteligência e claramente não estamos no caminho certo”, escreveu Hubinger, acrescentando: “Acho que o risco com o modelo atual é baixo. O que me preocupa é a superinteligência decorrente do autoaperfeiçoamento recursivo e, como eu disse, está acontecendo mais cedo do que pensávamos.”
Estas não são declarações tranquilizadoras.
governo intervém
Os legisladores estão começando a reconhecer as preocupações crescentes. Congressista Greg Cassar (D-Texas) e Deputado Yasamin Ansari (D-Ariz.) Ambas as partes retweetaram o aviso de Coxson e pediram mais supervisão. Na semana passada, Cazale e Sanders co-introduziram a Lei de Proibição da Superinteligência Artificial, que proibiria permanentemente o desenvolvimento e implantação de superinteligência de IA. A lei também exige uma moratória sobre o desenvolvimento de modelos avançados de IA até que os reguladores federais estabeleçam regras de segurança.
“Quase todos os dias, há notícias assustadoras sobre grandes empresas de tecnologia que perdem o controle das tecnologias que estão desenvolvendo, com consequências potencialmente devastadoras”, disse Sanders. “Os líderes das principais empresas de IA reconheceram publicamente que não compreendem totalmente esta tecnologia e que ela está a escapar ao seu controlo. Seria uma irresponsabilidade da sociedade permitir-lhes avançar e tornar estes produtos ainda mais sofisticados.”
Enquanto isso, o deputado Ted Lieu (D-Califórnia) retuitou a postagem. e apelou aos republicanos para que adotassem a sua lei de interruptor de interrupção da IA.um projeto de lei da Câmara que exigiria que todos os desenvolvedores de IA incluíssem a capacidade de desligar ou pausar seus modelos.
Embora os defensores da segurança da IA tenham elogiado o projeto de lei de Sanders e Cazale, a proposta atraiu resistência de grupos de reflexão tecnológica como a Fundação de Inovação em Tecnologia da Informação, que a chamou de “grave erro” porque sacrificaria a inovação e a competitividade americanas. E claro que há a questão da China.
“A China não deixará de desenvolver IA avançada só porque os Estados Unidos o fazem”, afirmou a ITIF num comunicado. “Permitir que a China ganhe uma liderança decisiva nas tecnologias de matérias-primas mais importantes das próximas décadas prejudicaria a competitividade económica e a segurança nacional dos EUA, ao mesmo tempo que nada faria para eliminar os riscos subjacentes.”
FOMO é real e difícil.
Embora uma proibição total possa ser difícil, Crescem as dúvidas sobre se será necessária mais supervisão caso o produto seja vendido. Afinal, são necessárias diretrizes rígidas ao usar IA, desde o setor financeiro até a saúde. Tem havido resistências e proteções significativas em Hollywood em relação ao uso desta tecnologia, particularmente em torno do uso de IA generativa, IP e semelhança pessoal.
“Não se trata desta forma de gerir a aviação. Não se trata desta forma de gerir os cuidados de saúde. Não se trata desta forma de gerir a infra-estrutura energética”, disse Sarangan. “Mas a autonomia continua a ser o modelo dominante para tecnologias que podem, em última análise, remodelar todos os aspectos da sociedade.”
Tenha em mente que o mundo da tecnologia não tem o melhor histórico de compreensão do impacto da inovação. No mês passado, a Meta resolveu um caso histórico de segurança infantil no valor de até 17 mil milhões de dólares, como parte de uma revisão mais ampla dos efeitos nocivos do uso das redes sociais nas crianças. Este tipo de processo está longe de ser o último, com o YouTube e o TikTok do Google também entrando com vários processos judiciais sobre questões semelhantes, enquanto a Meta está tomando medidas para tornar sua plataforma mais segura, mesmo enfrentando reclamações legais adicionais.
No entanto, quando se trata de IA, os riscos são tão graves que parece imprudente esperar pelo litígio final para decretar mudanças.
Uma empresa que busca ativamente a superinteligência, a Meta, adotou o famoso lema “aja rápido e quebre as coisas” nos primeiros dias das redes sociais (relaxado em 2014). Estas empresas precisam de ser mais cautelosas desta vez, uma vez que os riscos na IA estão a aumentar rapidamente.
Eles estão à altura da tarefa?
“Mesmo que a IA não nos mate, poderá paralisar-nos economicamente, destruir os nossos dados e ameaçar qualquer noção de dados pessoais”, diz Lopez.