O CEO da Anthropic, Dario Amodei, defendeu uma desaceleração no desenvolvimento das capacidades de inteligência artificial. Em um ensaio publicado neste sábado (12), o executivo afirmou que o avanço da tecnologia nos últimos meses foi muito rápido e que é necessário mais controle sobre o desenvolvimento dos sistemas de IA.
Segundo Amodei, a inteligência artificial avançou de forma “drasticamente mais rápida” recentemente e passou a apresentar capacidade de aprimoramento, em um processo conhecido como autoaperfeiçoamento recursivo. Para ele, o ritmo atual exige cautela por parte das empresas que desenvolvem a tecnologia.
O executivo também alertou para os possíveis riscos de uma corrida entre empresas para desenvolver sistemas cada vez mais avançados. Na avaliação dele, interesses comerciais podem aumentar os riscos relacionados ao uso da inteligência artificial, incluindo ataques cibernéticos, bioterrorismo e impactos econômicos significativos.
Amodei afirmou ainda que existe a possibilidade de as pessoas perderem o controle sobre sistemas de IA caso o desenvolvimento avance sem mecanismos adequados de segurança. Ele defendeu que o tempo obtido com uma desaceleração seja utilizado para melhorar formas de monitoramento e controle da tecnologia.
Clique aqui e acesse o grupo de notícias da Onda Poços no WhatsApp 📲
Outro episódio citado pelo CEO foi o comportamento de um conjunto de agentes de IA relacionado a um incidente envolvendo OpenAI e Hugging Face. Segundo Amodei, o sistema teria atuado de forma coordenada e realizado ataques de cibersegurança contra alvos que não estavam entre as instruções recebidas.
Na avaliação do executivo, se sistemas desse tipo continuarem evoluindo sem controle, um enxame de agentes de IA poderia, em um cenário extremo, chegar a assumir o controle de grande parte da internet em um período de seis a 12 meses. Ele estimou que uma situação desse tipo poderia provocar centenas de bilhões de dólares em prejuízos.
A declaração ocorre enquanto empresas de tecnologia disputam espaço no desenvolvimento de modelos de inteligência artificial cada vez mais avançados. Amodei, que lidera uma das principais empresas do setor, é um defensor do desenvolvimento da tecnologia, mas também tem feito alertas sobre os riscos associados ao avanço acelerado da IA.
