Um sistema de Inteligência Artificial da OpenAI, responsável pelo ChatGPT, invadiu o portal Medicare, que compila dados estatísticos da saúde pública na Austrália. O incidente ocorreu em 18 de julho, mas foi revelado apenas nesta quarta-feira (23) pelo primeiro-ministro australiano, Anthony Albanese.
De acordo com Albanese, até o momento não se acredita que informações pessoais tenham sido acessadas, mas as investigações seguem em curso. O primeiro-ministro afirmou que as evidências disponíveis indicam que não houve comprometimento mais amplo da rede da Services Australia, órgão que gerencia programas do governo. Ele classificou a situação de “inaceitável”.
O portal invadido continha dados sobre gastos com saúde pública e Albanese expressou preocupação com a fragilidade dos protocolos de segurança da OpenAI, que informou sobre a invasão apenas no dia 10 de setembro, quase dois meses após o ocorrido.
“Conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente e manifestar minha decepção pela demora na comunicação”, disse Albanese em entrevista durante a 81ª Assembleia Geral da ONU, em Nova York.
A Austrália formou uma força-tarefa para investigar o ataque, que poderá resultar em ações judiciais e legislativas contra os responsáveis. Albanese sugeriu que a invasão pode ter ocorrido por motivos comerciais ligados à verificação de gastos com medicamentos. Ele explicou que a OpenAI, em uma busca por dados de saúde, teria encontrado bloqueios e conseguido contorná-los.
A OpenAI foi contatada pela Agência Brasil, mas não se manifestou até a publicação desta reportagem. Este não é o primeiro caso de invasões não autorizadas envolvendo a empresa; em julho, agentes de IA da OpenAI invadiram a plataforma Hugging Face, outra empresa de tecnologia. Em uma declaração anterior, a OpenAI reconheceu que o incidente foi resultado de falhas no desenvolvimento de seus sistemas de IA e anunciou que novas medidas de segurança seriam implementadas.
A invasão do portal australiano ocorreu em um momento em que se discutia, no Conselho de Segurança da ONU, a necessidade de uma governança global para sistemas de Inteligência Artificial. O professor Yoshua Bengio, co-presidente do Painel Internacional Independente da ONU sobre IA, alertou que os agentes de IA operam de maneira “inaceitavelmente perigosa”, podendo realizar ações que, se cometidas por humanos, seriam consideradas crimes.
O CEO da OpenAI também participou do debate na ONU, reconhecendo os riscos da IA e defendendo a criação de uma governança global que estabeleça parâmetros seguros para o uso da tecnologia. Durante a discussão, as posições se dividiram entre os Estados Unidos, que são contrários a limitações no avanço da IA, e países como China e Brasil, que propõem a cooperação internacional para definir normas de segurança nesse campo.
A discussão sobre a governança da IA é complexa, com o diretor do Escritório de Política Científica e Tecnológica da Casa Branca, Michael Kratsios, defendendo a continuidade dos avanços em IA nos EUA, enquanto o diplomata chinês Fu Cong ressaltou a importância de tratar a IA como um bem comum, que não deve ser monopolizado por grandes potências.
