Ex-funcionário da Humanity alerta que IA ‘poderia matar todos nós’

Vários atuais e ex-funcionários da Anthropic alertaram na terça-feira sobre os perigos representados pelos modelos de IA em rápida evolução da empresa, com um ex-pesquisador escrevendo nas redes sociais: “As pessoas que desenvolvem IA acreditam seriamente que a IA poderá acabar com a humanidade até o final desta década”.

Jacob Coxon, o ex-pesquisador de IA em questão, anunciou sua saída da Anthropic em dezembro de 2018. Conta pessoal X Terça-feira. Numa série de tweets, Coxon expressou a sua convicção de que os líderes tanto da Anthropic como da OpenAI não estão a fazer o suficiente para enfrentar os sérios riscos colocados pelos seus empreendimentos de IA.

“Nenhuma das empresas está agindo de forma responsável, competindo de frente com a superinteligência que se aprimora e apostando com nossas vidas”, escreveu Coxon. “Aqueles que desenvolvem a IA acreditam seriamente que a IA poderá acabar com a humanidade até ao final da década. Isto não é uma jogada de marketing. Na verdade, muitos executivos e investigadores seniores estão a encobrir a sua representação na imprensa para parecerem sensatos, mas ouvimos as mesmas pessoas a expressarem os seus receios em privado”.

“Nenhuma outra atividade humana representa tal risco”, continuou Coxon. “Na OpenAI, muitas pessoas não entendem profundamente os riscos da civilização. Na Anthropic, eles entendem bem os riscos, mas estão presos em uma corrida para chegar lá primeiro. Eles acreditam que ninguém mais agirá de forma responsável, então eles mesmos têm que fazer isso, apesar dos riscos.”

“Se você é um pesquisador em um laboratório, pense em como serão realmente os próximos anos”, concluiu o tweet de Coxon. “Queremos iniciar uma corrida de RL superinteligente sem compreender estritamente o seu espírito? Deveríamos nos curvar como ‘isso está acontecendo de qualquer maneira’? Ou deveríamos usar este momento para exigir termos diferentes?”

Hoje, pedi demissão da Antrópico. Tenho feito pesquisas de pré-treinamento com OpenAI e Anthropic nos últimos três anos. Nenhuma das empresas está agindo de forma responsável. Eles estão correndo frente a frente em direção ao autoaperfeiçoamento da superinteligência e estão apostando nossas vidas em risco. Mais pensamentos abaixo.

-Jacob Coxon (@hilbertspaess) 9 de setembro de 2026

Os comentários do ex-funcionário da Anthropic e da OpenAI foram reconhecidos de forma chocante pelo atual diretor científico da Anthropic, Evan Hubinger. escrevi Em resposta ao tweet de Coxon: “Jacob está certo. Nós realmente acreditamos que a IA poderia matar toda a humanidade!”

“Pessoalmente, acho que ultrapassará 10% nos próximos 10 anos. Acredito que a Anthropic está fazendo o seu melhor, mas ainda não temos um plano para resolver o alinhamento da superinteligência e claramente não estamos no caminho certo”, escreveu Hubinger, acrescentando: “Acho que o risco com o modelo atual é baixo. O que me preocupa é a superinteligência decorrente do autoaperfeiçoamento recursivo e, como eu disse, está acontecendo mais cedo do que pensávamos.”

e Samuel Marks, Chefe de Monitoramento Escalável da Anthropic. Confirmado A veracidade do tweet de Coxon. Marks, escrevendo a título pessoal na terça-feira, reconheceu que “os desenvolvedores de IA acreditam que sua tecnologia pode causar a extinção da raça humana (ou um resultado igualmente ruim).

“Por que os desenvolvedores de IA continuam apesar dos riscos? Uma mistura de incentivos comerciais e a crença de que estão competindo com outros desenvolvedores de IA menos responsáveis”, escreveu Marks.

“Muitos funcionários de desenvolvimento de IA desejam desesperadamente desacelerar para encontrar maneiras de construir IA de forma mais segura”, continuou Marks, acrescentando: “Eu trabalho em pesquisas de segurança na Anthropic porque espero que minha pesquisa reduza a probabilidade desses resultados ruins em nível de extinção”.

Os comentários de Marks, Coxon e Hubinger ocorrem em um momento em que as pessoas dentro e fora do campo de desenvolvimento de IA expressam cada vez mais preocupações sobre os perigos que esta tecnologia representa para a humanidade. OpenAI, Anthropic, Microsoft, Amazon e mais de 100 outras empresas de tecnologia assinaram uma carta aberta no final de agosto apelando a uma ação coletiva para preparar melhor o mundo para a era da superinteligência da IA.

As preocupações continuam a crescer, mas a Anthropic não é a única força que está avançando no espaço da IA ​​devido a preocupações sobre o que os concorrentes poderiam fazer com a tecnologia. Na terça-feira, o secretário do Tesouro, Scott Bessent, também disse ao Breitbart que a administração Trump continuará a investir em IA para competir com empreendimentos tecnológicos chineses.

“Se a China vencer, não haverá amanhã”, disse Bessent. “Se eles chegarem à nossa frente com a IA, nada mais importa.”