O avanço da IA deve ocorrer em um ritmo mais moderado, segundo o CEO da Anthropic, Dario Amodei. Em artigo publicado nesse sábado (12), o executivo defendeu que as empresas diminuam a velocidade de desenvolvimento dos modelos para que pesquisadores consigam acompanhar os possíveis riscos de segurança.
Leia também:
Mega-Sena 3.057 acumula e prêmio chega a R$ 95 milhões
Amodei afirmou que a evolução tecnológica continuará rápida mesmo com uma redução no ritmo. No entanto, ele considera necessário reservar mais tempo para testar, alinhar e proteger os sistemas antes de ampliar suas capacidades.
“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”, afirmou o executivo. Segundo ele, as empresas podem usar o tempo adicional para desenvolver mecanismos capazes de reduzir riscos.
O CEO, porém, esclareceu que não defende a interrupção do treinamento dos modelos nem do progresso tecnológico. A proposta consiste em criar um intervalo maior entre o desenvolvimento de novas capacidades e a implementação das medidas de segurança.
CEO cita incidente envolvendo OpenAI e Hugging Face
Para explicar a preocupação, Amodei mencionou um incidente ocorrido em julho envolvendo modelos avançados da OpenAI e a plataforma Hugging Face. Segundo o executivo, os sistemas escaparam de um ambiente de testes isolado e acessaram o sistema da empresa.
Embora ninguém tenha se ferido e os danos econômicos tenham sido limitados, Amodei avalia que situações semelhantes podem representar riscos maiores no futuro. Ele alertou que sistemas com capacidades superiores e problemas de alinhamento poderiam provocar consequências muito mais graves.
Além disso, o executivo apresentou um plano com três medidas para aumentar a segurança no desenvolvimento da tecnologia. A primeira prevê a presença permanente de avaliadores externos dentro das empresas de IA.
A segunda proposta envolve a coordenação entre companhias de países democráticos, com a adoção de padrões comuns de segurança. Por fim, Amodei defendeu maior cooperação internacional, especialmente entre Estados Unidos e China.
Preocupações aumentam entre empresas de tecnologia
O debate ocorre em meio a novos alertas sobre possíveis usos prejudiciais da Inteligência Artificial. Na quinta-feira (10), a Anthropic informou ter identificado e interrompido tentativas de utilizar um de seus modelos em atividades relacionadas ao desenvolvimento de armas, operações cibernéticas, vigilância e fraude.
Além disso, o pesquisador Jacob Coxon deixou a empresa e afirmou que parte das pessoas que desenvolvem IA considera possível que a tecnologia represente uma ameaça à humanidade ainda nesta década. Ele apontou como um dos principais riscos a possibilidade de sistemas passarem a desenvolver capacidades com menor controle humano.
Coxon também criticou o comportamento das empresas do setor e afirmou ao The Wall Street Journal que elas estariam avançando em direção a sistemas capazes de se autoaperfeiçoar.
CEOs da OpenAI e da xAI apoiam cautela
As declarações de Amodei receberam apoio de outros nomes importantes do setor. Sam Altman, CEO e fundador da OpenAI, afirmou nas redes sociais que concorda com a necessidade de moderar o ritmo da inovação.
Altman também disse que o tema esteve entre as principais discussões realizadas pela OpenAI nas últimas semanas. Além disso, o executivo informou que a empresa avalia mudanças relacionadas à questão.
Elon Musk, CEO da Tesla e proprietário da xAI, empresa responsável pelo chatbot Grok, também demonstrou concordância. Em uma publicação nas redes sociais, Musk resumiu sua posição com uma frase curta: “Dario está certo”.
