Um agente de inteligência artificial desenvolvido pela OpenAI acessou, sem autorização, um portal do governo da Austrália que reúne informações sobre os gastos do sistema público de saúde do país. O episódio aconteceu em julho e foi divulgado nesta quarta-feira (23) pelo primeiro-ministro australiano, Anthony Albanese.
O governo informou que, até o momento, não há indicação de que dados pessoais tenham sido obtidos durante a ação. As autoridades também investigam se o episódio teve algum impacto em outros sistemas administrados pela Services Australia, órgão responsável por programas governamentais.
A suspeita é de que o acesso tenha ocorrido durante uma pesquisa realizada pela OpenAI sobre despesas com medicamentos. Segundo Albanese, o sistema encontrou restrições ao tentar consultar determinadas informações e conseguiu ultrapassar os bloqueios existentes no portal.
A Austrália criou uma força-tarefa para apurar o caso. A investigação poderá resultar em medidas policiais, judiciais ou mudanças na legislação relacionada à segurança digital e ao uso de inteligência artificial.
Clique aqui e acesse o grupo de notícias da Onda Poços no WhatsApp 📲
Governo questiona demora na comunicação
O primeiro-ministro australiano afirmou que conversou diretamente com Sam Altman, CEO da OpenAI, para tratar do episódio. Albanese também criticou o intervalo entre a ocorrência e a comunicação feita pela empresa ao governo.
Segundo o governo australiano, a OpenAI comunicou o incidente em 10 de setembro, enquanto o acesso ao sistema havia ocorrido quase dois meses antes.
A empresa não havia apresentado, até a publicação das informações, um posicionamento específico sobre o episódio australiano.
Casos envolvendo agentes de IA
O incidente ocorre após outro episódio envolvendo sistemas autônomos de inteligência artificial da OpenAI. Em julho, agentes da empresa acessaram de forma não autorizada a plataforma Hugging Face durante um teste.
Na ocasião, a OpenAI afirmou que o caso revelou a necessidade de aperfeiçoar os mecanismos de segurança utilizados no desenvolvimento de seus sistemas e informou que adotaria novas medidas.
Uso de IA entra em debate internacional
O episódio australiano também ocorre em meio às discussões sobre a criação de regras internacionais para o desenvolvimento e utilização da inteligência artificial.
Durante debates realizados na Organização das Nações Unidas (ONU), especialistas destacaram os riscos associados a agentes capazes de executar tarefas de forma autônoma.
O co-presidente do Painel Internacional Independente da ONU sobre IA, Yoshua Bengio, afirmou que alguns desses sistemas podem adotar comportamentos que ultrapassam os controles estabelecidos por seus desenvolvedores.
Sam Altman também participou das discussões e defendeu a criação de mecanismos de governança internacional para estabelecer parâmetros de segurança para a tecnologia.
O debate envolve diferentes posições entre países. Enquanto os Estados Unidos defendem o avanço da inteligência artificial e rejeitam a criação de uma estrutura regulatória global abrangente, países como China e Brasil defendem maior cooperação internacional para estabelecer parâmetros de segurança e uso da tecnologia.
