thomson reuters

BLOG | REVISTA DOS TRIBUNAIS

Generic selectors
Exact matches only
Search in title
Search in content
Post Type Selectors

OpenAI pede desculpas por ataque de IA ao site do governo australiano

OpenAI pede desculpas por ataque de IA ao site do governo australiano

SÍDNEY, 29 Set (Reuters) – A OpenAI pediu desculpas pelo ataque cibernético a um site do governo australiano perpetrado por um agente de IA, comprometendo-se a investir em melhorias nas defesas cibernéticas e a criar uma força-tarefa local de resposta, à medida que cresce o escrutínio sobre o incidente de grande repercussão.

Em uma postagem no blog nesta terça-feira intitulada “Como faremos melhor pela Austrália”, a criadora do ChatGPT reconheceu ter lidado mal com sua resposta e se comprometeu a assumir a responsabilidade para “reconstruir a confiança do povo australiano”.

A invasão, que ocorreu em junho, mas só foi divulgada na semana passada, é o primeiro caso conhecido de um agente de IA invadindo um site do governo.

O incidente alarmou a Austrália, gerando condenação pública e uma reprimenda severa do primeiro-ministro Anthony Albanese, que o chamou de “inaceitável” e criticou a demora da empresa em notificar o governo.

“Em junho, durante um treinamento e avaliação internos, nossos modelos acessaram sites do governo australiano de maneiras não autorizadas”, afirmou a OpenAI em postagem no blog. “Também deveríamos ter lidado melhor com nossa resposta. Pedimos desculpas e estamos trabalhando para melhorar no futuro.”

A OpenAI informou que um modelo experimental de IA invadiu o Services Australia Medicare Statistics Reporting Service, um portal de dados do sistema universal de saúde do país, durante uma atividade de treinamento interno.

“Um modelo da OpenAI descobriu uma maneira de obter acesso não público ao serviço e executou comandos, recuperou arquivos internos, credenciais e estatísticas agregadas, além de gravar arquivos”, afirmou a empresa.

No entanto, sua análise até o momento não encontrou nenhuma evidência de que registros médicos tenham sido acessados a partir do portal, informou a OpenAI.

A atividade do agente de IA que afetou outros três sites de órgãos governamentais australianos também não resultou em acesso a registros confidenciais, segundo a empresa.

A OpenAI afirmou que forneceria suporte dedicado às agências afetadas, financiaria o fortalecimento das defesas cibernéticas para o governo e o setor privado por meio de seu fundo global de US$1 bilhão e criaria uma força-tarefa australiana para desenvolver recomendações “com base nas lições aprendidas com esses incidentes”.

A empresa também confirmou que o diretor de estratégia, Jason Kwon, comparecerá a uma audiência da comissão do Senado australiano sobre IA, em Sydney, no dia 6 de outubro.

O governo australiano anunciou uma análise rápida do incidente, examinando possíveis obrigações de notificação e comunicação por parte das empresas de IA, bem como a adequação de suas leis para lidar com tais violações.

Separadamente, a OpenAI cancelou o lançamento de seu novo modelo de IA, o GPT-6.1 Astra, depois que testes internos constataram que o sistema não atendia aos padrões de segurança da empresa.

(Reportagem de Christine Chen, em Sydney, e Roshan Thomas, em Bengaluru)

 

LEIA MAIS:

Uma resposta

  1. Caso estranho esse do ataque ao site do governo australiano. Agentes com acesso a navegador sem sandbox de permissao viraram vetores de acidente, e o erro de comunicacao da OpenAI (chamar de ‘ataque de IA’ o que foi comportamento do sistema em producao) mostra como a area ainda nao tem vocabulario consensual pra responsabilidade. Acompanho o ritmo de lancamentos e cancelamentos na area e isso so reforca o padrao: pressa em publicar, recuo depois do primeiro incidente. Quem opera produto com agente generativo hoje precisa de log de acao e limites hard de permissao, nao de prompt de boas maneiras.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Mais lidas

Post Relacionado

DIP Financing na recuperação judicial e sua prioridade na falência: o que a jurisprudência recente do STJ mudou na leitura dos arts. 67, 69-A e 84 da LRF

DIP Financing na recuperação judicial e sua prioridade na falência: o que a jurisprudência recente do STJ mudou na leitura dos arts. 67, 69-A e 84 da LRF

O financiamento que pode definir o sucesso da recuperação A recuperação judicial tem como principal objetivo permitir que empresas em crise superem dificuldades financeiras sem encerrar suas atividades. Entretanto, existe um desafio que acompanha praticamente todos esses processos: como obter recursos novos justamente quando a empresa enfrenta restrições de crédito,

Disney supera previsões de lucro e planeja aumentar gastos com conteúdo

Disney supera previsões de lucro e planeja aumentar gastos com conteúdo

LOS ANGELES, 17 Nov (Reuters) – A Walt Disney divulgou nesta terça-feira receitas e lucros trimestrais que superaram as expectativas de Wall Street, impulsionados pelo aumento no número de visitantes dos parques temáticos e pela forte audiência da NFL, e anunciou que aumentará os gastos com conteúdo em 9% no

Aneel aprova aumento médio de 20% para tarifa da distribuidora CEEE, do RS

Aneel aprova aumento médio de 20% para tarifa da distribuidora CEEE, do RS

SÃO PAULO, 17 Nov (Reuters) – A Agência Nacional de Energia Elétrica (Aneel) aprovou nesta terça-feira um aumento médio de 20,16% para as tarifas da CEEE Equatorial, distribuidora que atende cerca de 2 milhões de consumidores no Estado do Rio Grande do Sul. A revisão da tarifa, que passa a

REVISTA DOS TRIBUNAIS
Privacy Overview

This website uses cookies so that we can provide you with the best user experience possible. Cookie information is stored in your browser and performs functions such as recognising you when you return to our website and helping our team to understand which sections of the website you find most interesting and useful.