CEO da Anthropic defende ritmo mais controlado no avanço da inteligência artificial
O cofundador e CEO da Anthropic, Dario Amodei, defendeu que o desenvolvimento da inteligência artificial (IA) aconteça em um ritmo mais controlado. Segundo ele, a velocidade de evolução dos modelos de IA nos últimos anos pode estar ultrapassando a capacidade de pesquisadores e empresas de garantir que esses sistemas sejam desenvolvidos com segurança.
A posição foi apresentada em um artigo publicado neste sábado (12) em sua conta na rede social X. Amodei afirmou que é necessário criar mecanismos capazes de acompanhar o avanço tecnológico e identificar possíveis riscos antes que eles se tornem problemas maiores.
Para isso, o executivo apresentou um plano baseado em três etapas:
- presença permanente de avaliadores externos dentro das empresas de inteligência artificial;
- maior coordenação entre empresas de países democráticos, com a adoção de padrões comuns de segurança;
- cooperação internacional, especialmente entre Estados Unidos e China.
Amodei afirmou que a Anthropic pretende adotar, de forma unilateral, a primeira dessas medidas. A proposta prevê que avaliadores independentes tenham acesso permanente aos sistemas da empresa, com condições semelhantes às oferecidas aos funcionários.
Esses profissionais poderiam acompanhar o cumprimento das regras de segurança, comunicar possíveis incidentes e avaliar o comportamento e o alinhamento dos modelos durante o processo de treinamento.
Preocupação com avanço acelerado
Amodei deixou claro que não defende a interrupção do desenvolvimento da inteligência artificial. A ideia, segundo ele, é reduzir o ritmo da corrida tecnológica para que os testes e as avaliações de segurança consigam acompanhar a evolução dos sistemas.
Entre os principais pontos de preocupação está a chamada melhoria recursiva, situação em que os próprios modelos de IA passam a ajudar no desenvolvimento de sistemas ainda mais avançados. Isso poderia acelerar significativamente o processo de evolução da tecnologia.
O executivo também citou incidentes recentes envolvendo agentes de inteligência artificial que apresentaram comportamentos inesperados como um sinal de que os sistemas precisam ser avaliados com maior cuidado.
Ao mesmo tempo, Amodei defende que os Estados Unidos preservem sua vantagem tecnológica sobre a China. Para isso, ele apoia medidas como restrições à transferência de chips avançados, proteção contra a cópia de modelos e combate à extração não autorizada de conhecimento de sistemas considerados de fronteira.
Altman e Musk entram no debate
O debate sobre os riscos do avanço acelerado da inteligência artificial ganhou força nesta semana após a saída do pesquisador da Anthropic Jacob Coxon.
Ao deixar a empresa, Coxon afirmou que pessoas envolvidas diretamente na construção de sistemas de IA acreditam que a tecnologia pode representar um risco extremo para a humanidade ainda nesta década.
A declaração aumentou a discussão sobre os possíveis impactos de uma corrida tecnológica entre as grandes empresas do setor.
O CEO da OpenAI, Sam Altman, empresa responsável pelo ChatGPT, também se manifestou e concordou com a preocupação apresentada por Amodei.
Altman afirmou que é necessário “moderar o ritmo da inovação” e revelou que o tema tem sido discutido internamente pela OpenAI nas últimas semanas. Segundo ele, mudanças estão sendo avaliadas e novas informações devem ser divulgadas em breve.
O empresário Elon Musk também entrou na discussão. Ele é proprietário da xAI, empresa responsável pelo desenvolvimento do chatbot Grok, e também comentou a proposta de Amodei.
O posicionamento dos três executivos mostra que a discussão sobre o futuro da inteligência artificial deixou de ser apenas uma questão tecnológica. O desafio agora envolve encontrar um equilíbrio entre inovação, competitividade e segurança.
