Jacob Coxon, ex-pesquisador da OpenAI e Anthropic, acusa empresas de avançarem em IA sem responsabilidade suficiente, gerando preocupações sobre riscos à humanidade.
O pesquisador britânico Jacob Coxon, de 27 anos, anunciou seu desligamento da indústria de inteligência artificial, fazendo duras críticas à OpenAI e à Anthropic, duas das principais empresas do setor. Em uma publicação na rede social X, Coxon afirmou que ambas avançam em direção a sistemas de inteligência artificial capazes de se aprimorar sozinhos, sem a responsabilidade necessária.
Coxon, que trabalhou na OpenAI e mais recentemente na Anthropic, destacou que as empresas estão em uma corrida para desenvolver superinteligências, apostando com a vida das pessoas. Ele ressalta que, mesmo dentro do setor, há um consenso de que sistemas avançados de IA podem representar um risco significativo à humanidade.
Preocupações sobre autoaperfeiçoamento
Evan Hubinger, diretor de segurança da Anthropic, concordou com as preocupações de Coxon. Em uma declaração também feita no X, Hubinger afirmou acreditar que a IA tem potencial de causar mortes humanas, estimando em mais de 10% a chance de isso ocorrer na próxima década. A preocupação central está no “autoaperfeiçoamento recursivo”, um estágio em que a IA poderia evoluir sem intervenção humana.
Coxon defende que o desenvolvimento de IA superior aos seres humanos deve ser acompanhado por intervenção governamental ou uma desaceleração coordenada do setor. Ele observa que, embora a Anthropic compreenda os riscos, está presa em uma corrida para se antecipar aos concorrentes, acreditando que ninguém mais agirá de forma responsável.
Chamados por regulamentação
Em fevereiro, a Anthropic removeu de sua carta de segurança o compromisso de parar o desenvolvimento se não conseguisse controlar os riscos. Em julho, mais de mil profissionais, incluindo o presidente-executivo da Anthropic, Dario Amodei, pediram ao governo dos Estados Unidos que criasse um mecanismo de controle.
A saída de Coxon foi anunciada enquanto a Anthropic se prepara para abrir seu capital na bolsa. As empresas OpenAI e Anthropic não responderam às solicitações de comentários feitas pela agência AFP.
