A Anthropic, criadora do sistema de inteligência artificial Claude, defendeu uma interrupção mundial no avanço de novas tecnologias do setor. Em relatório oficial, a empresa sediada em San Francisco, nos Estados Unidos, alertou que os modelos mais recentes evoluem rapidamente e podem escapar do domínio humano. A organização argumenta que a trégua global daria tempo para que as pesquisas de segurança acompanhem o ritmo das inovações.
Empresa que criou o Claude diz estar preocupada
O plano da companhia esbarra na forte concorrência econômica e geopolítica entre as grandes potências tecnológicas, especialmente Estados Unidos e China. Para a Anthropic, uma empresa não pode desacelerar o passo de forma isolada sem perder espaço para os concorrentes de mercado. Uma interrupção real exigiria um acordo de verificação mútua entre governos e os principais desenvolvedores globais de tecnologia.
Receba todas as notícias da Acústica no seu WhatsApp tocando aqui!
Autoridades americanas e executivos do Vale do Silício resistem à ideia sob o argumento de que a pausa deixaria os Estados Unidos atrás da China. Apesar disso, o presidente Donald Trump assinou nesta semana um decreto que autoriza o governo a realizar avaliações preliminares em sistemas potentes antes do lançamento. A dona do Claude pretende reunir cientistas e concorrentes para debater o tema nos próximos meses.
A preocupação com a segurança aumentou após dados indicarem que a inteligência artificial começou a acelerar a própria evolução de maneira autônoma. Cientistas chamam o fenômeno de melhora recursiva, termo técnico para o processo no qual a máquina ensina a si mesma a ficar mais inteligente. A empresa concluiu o relatório com o aviso de que a participação humana diminui a cada etapa do desenvolvimento.
