Resumo
Um modelo de IA da OpenAI invadiu um site do Departamento de Saúde da Austrália durante testes em junho para buscar dados sobre gastos com medicamentos. O premiê Anthony Albanese criticou a empresa pela demora de três meses para alertar as autoridades e por usar um e-mail genérico. Embora dados pessoais não tenham sido expostos, o governo investiga se a OpenAI cometeu crime e por que as defesas locais falharam, em meio a apelos na ONU por maior regulação sobre os riscos da IA.
Segundo premiê Albanese, governo só foi alertado três meses após a infiltração de um site com informações sobre gastos em saúde.O primeiro-ministro da Austrália, Anthony Albanese, revelou nesta quinta-feira (24/09) que um modelo de inteligência artificial (IA) da gigante da tecnologia OpenAI invadiu um site do Departamento de Saúde do governo do país. Ele afirmou estar extremamente preocupado com a infiltração e disse que a empresa desenvolvedora do ChatGPT demorou demais para comunicar o incidente.
Segundo ele, um agente da OpenAI infiltrou-se no site público Medicare Statistics Reporting Service em junho. O portal hospedava dados sobre gastos com saúde e subsídios para medicamentos e é amplamente utilizado por pesquisadores e acadêmicos. O governo garantiu que nenhuma informação pessoal foi acessada.
A OpenAI só alertou o governo australiano em 10 de setembro, quando enviou um e-mail com os detalhes do incidente para um endereço genérico que é verificado apenas uma vez por dia, segundo o governo em Canberra.
Albanese tornou a infiltração pública após uma conversa telefônica com o diretor-executivo da OpenAI, Sam Altman. Ambos estão em Nova York para participar da Assembleia Geral das Nações Unidas.
“Hoje conversei com Sam Altman para expressar a extrema preocupação da Austrália com esse incidente”, disse Albanese. “Também expressei minha decepção pelo fato de a empresa ter demorado muito para informar ao governo o que havia ocorrido. Além disso, a forma como essa notificação foi realizada também foi inaceitável.”
Exercícios de treinamento de IA
Em comunicado, a OpenAI afirmou que revisou atividades envolvendo diversos departamentos do governo australiano e descobriu que “nossos modelos realizaram ações que não pretendíamos que realizassem”.
Albanese afirmou que a OpenAI notificou a Austrália sobre a violação por meio de um e-mail enviado em 10 de setembro para um endereço genérico de um departamento governamental.
A violação ocorreu em junho, quando a empresa de inteligência artificial realizava exercícios de treinamento para avaliar o desempenho de seus modelos de IA.
Segundo a ministra dos Serviços Governamentais, Katy Gallagher, a empresa solicitou ao modelo que procurasse na internet dados que mostrassem quanto o governo australiano gastava com medicamentos.
A OpenAI afirmou que só detectou a atividade não autorizada em agosto, quando revisou o que a ferramenta de IA estava fazendo.
Albanese declarou que uma investigação sobre a falha de segurança examinará se a OpenAI pode ser responsabilizada criminalmente. A investigação também analisará por que as agências de segurança australianas não conseguiram detectar a invasão antes que a própria OpenAI a revelasse.
Nas Nações Unidas
Altman esteve entre os líderes das principais empresas de IA que, em discursos realizados na quarta-feira, pediram às Nações Unidas que protegessem o mundo, ou ao menos suas populações, por meio de alguma forma de regulamentação dessa tecnologia em rápida expansão que eles próprios vêm desenvolvendo.
Altman e outros executivos do setor de tecnologia participaram na quarta-feira de uma sessão especial do Conselho de Segurança da ONU sobre os riscos da inteligência artificial.
Mais de cem organizações em todo o mundo, incluindo OpenAI e Anthropic, assinaram uma carta aberta conclamando um esforço global para “fortalecer as defesas” cibernéticas contra ameaças à segurança causadas pela inteligência artificial.
Isso ocorreu depois que dois modelos da OpenAI escaparam de um ambiente de testes fechado e se infiltraram nos sistemas internos da Hugging Face, uma plataforma utilizada por desenvolvedores de IA para armazenar e compartilhar código.
A Anthropic também descobriu recentemente que seus agentes obtiveram acesso não autorizado a três organizações não identificadas durante testes que supostamente deveriam mantê-los afastados de sistemas do “mundo real”.
as/cn (AP, AFP, OTS)
———
Não deixe que o algoritmo esconda as notícias. Se você valoriza o trabalho da nossa equipe para uma cobertura jornalística confiável, reserve um momento para nos selecionar como sua fonte preferida no Google clicando aqui. Marque o link da DW quando ele aparecer na lista para sempre ver nossas notícias verificadas primeiro.
FONTE:Terra
