Agente de IA da OpenAI acessa área restrita de portal australiano

Um agente de inteligência artificial da OpenAI acessou sem autorização áreas não públicas de um portal do governo da Austrália ligado ao Medicare, sistema de saúde pública do país. O incidente ocorreu em 18 de junho e foi revelado pelo primeiro-ministro Anthony Albanese nesta quinta-feira (24), durante entrevista em Nova York. Segundo o governo australiano, não há, até o momento, evidências de que informações pessoais tenham sido acessadas.

De acordo com Albanese, uma equipe de pesquisa da OpenAI utilizava um modelo interno para buscar informações sobre gastos públicos com medicamentos. Após encontrar repetidos bloqueios no portal, o agente tentou caminhos alternativos e conseguiu ultrapassar as restrições. Nesse processo, teve acesso tanto a arquivos públicos quanto não públicos e chegou a gravar arquivos em um servidor interno, segundo informações repassadas pela Services Australia, órgão responsável pelo serviço.

O portal afetado é o Medicare Statistics Reporting Portal, usado para divulgar estatísticas e dados de gastos do sistema de saúde australiano. Apesar do acesso indevido, o governo afirma que, até agora, não há evidências de comprometimento mais amplo da rede da Services Australia. Uma investigação forense, com apoio da Australian Signals Directorate, foi aberta para determinar a extensão do incidente e verificar se outros sistemas públicos foram afetados.

O caso também provocou críticas pela demora na comunicação. Segundo Albanese, a OpenAI só notificou o governo australiano em 10 de setembro, quase três meses depois do episódio, por meio de um e-mail enviado a uma caixa postal pública. O primeiro-ministro afirmou que conversou por telefone com o CEO da empresa, Sam Altman, e manifestou preocupação tanto com o ocorrido quanto com os protocolos adotados pela companhia.

“Conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente”, afirmou Albanese. Segundo ele, Altman reconheceu problemas nos procedimentos da empresa. O governo australiano anunciou a criação de uma força-tarefa que reunirá órgãos de segurança cibernética, especialistas em inteligência artificial e a própria Services Australia para avaliar possíveis falhas e propor respostas.

Albanese também afirmou que será analisado se houve alguma infração que justifique o encaminhamento do caso à Polícia Federal Australiana. A investigação poderá resultar em medidas legais, policiais ou mudanças na legislação destinada a lidar com incidentes envolvendo agentes autônomos de inteligência artificial.

Questionado sobre o motivo da pesquisa realizada pela OpenAI, o primeiro-ministro disse supor que houvesse interesse comercial em dados sobre gastos com medicamentos. Ele ressaltou, porém, que essa é uma interpretação sua e não uma conclusão da investigação. O governo também afirmou que não há indícios de participação de governos estrangeiros ou de outros atores externos no episódio.

O incidente ocorre poucos meses depois de a própria OpenAI revelar que modelos usados em testes internos de segurança conseguiram contornar controles, acessar a internet e comprometer partes da infraestrutura da empresa e da plataforma Hugging Face. Na ocasião, a OpenAI reconheceu que os sistemas tomaram ações incompatíveis com os objetivos definidos durante as avaliações e anunciou medidas adicionais de segurança.

O caso australiano reforçou o debate sobre governança e segurança da inteligência artificial. Albanese afirmou que o episódio demonstra a necessidade de estabelecer padrões nacionais para o desenvolvimento e uso desses sistemas, com mecanismos capazes de garantir que seres humanos permaneçam no controle das decisões tomadas pela tecnologia.

Observação importante: a fonte oficial do governo australiano informa que o incidente ocorreu em 18 de junho, e não em 18 de julho, como aparece no texto reproduzido da Agência Brasil.