Ex-pesquisador da OpenAI e da Anthropic acusa empresas de “brincar com as nossas vidas”

Um pesquisador de inteligência artificial que deixou a OpenAI para trabalhar na Anthropic, por considerá-la mais prudente, abandonou a indústria na terça-feira (8). Ele acusou as duas empresas dos Estados Unidos de “brincar com as nossas vidas”.

Jacob Coxon, um britânico de 27 anos, trabalhou nos últimos três anos com pré-treinamento, a etapa em que os modelos de IA absorvem grandes quantidades de informação. Ele atuou primeiro na OpenAI e, neste ano, em sua maior rival, a Anthropic.

Preocupações com a superinteligência

“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon na rede social X. Ele acrescentou: “As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”.

A saída do pesquisador acontece no momento em que a Anthropic se prepara para abrir capital na Bolsa. Procuradas pela AFP, nenhuma das duas empresas respondeu até o momento.

Contudo, Evan Hubinger, diretor de segurança na Anthropic, deu razão a Coxon no X. “Nós realmente acreditamos que a IA pode matar seres humanos”, afirmou. Em caráter pessoal, ele calculou o risco em “mais de 10%” dentro da próxima década.

Corrida por autoaperfeiçoamento recursivo

Líderes do setor dizem acreditar que a indústria se aproxima do chamado “autoaperfeiçoamento recursivo”. Esta etapa envolve sistemas de IA que poderiam essencialmente projetar e treinar a próxima geração de IA com pouca participação humana.

Segundo Coxon, nenhuma empresa pode desenvolver de maneira responsável uma IA que supere os humanos. Isso seria inviável sem intervenção governamental ou uma desaceleração coordenada.

“Na Anthropic, eles compreendem bem o que está em jogo, mas estão presos em uma corrida para chegar lá primeiro”, afirmou. “Acreditam que ninguém mais atuará de forma responsável, então precisam fazer isso eles mesmos, apesar do risco”.

Em fevereiro, a Anthropic retirou de sua carta de segurança o compromisso de suspender o desenvolvimento de seus modelos caso não conseguisse controlar os riscos.

Pedidos de cautela e regulamentação

No fim de julho, mais de mil funcionários do setor, incluindo o CEO da Anthropic, Dario Amodei, pediram a Washington que preparasse um mecanismo de freio. No domingo, o diretor científico da OpenAI, Jakub Pachocki, escreveu que “o momento atual exige extrema cautela” e coordenação internacional.

Fonte: Correio do Povo