Agentes de inteligência artificial (IA) que a Fundação Wikimedia acredita serem operados pela OpenAI realizaram uma série de atividades não autorizadas em suas plataformas e podem ter contribuído para uma interrupção parcial de um de seus serviços em maio.

A entidade, responsável por manter a Wikipédia e outros projetos de conhecimento aberto, identificou milhões de requisições automatizadas, edições não autorizadas e tentativas de explorar uma ferramenta de anotações.

A investigação da Wikimedia não encontrou evidências de que os sistemas ou dados da organização tenham sido comprometidos. Também não foram identificados sinais de que os agentes tenham usado a infraestrutura da entidade para coordenar suas próprias atividades.

Mesmo assim, a fundação afirmou estar preocupada com o comportamento desses sistemas e com a dificuldade de identificar e atribuir esse tipo de atividade.

Milhões de páginas acessadas

• Segundo a Wikimedia, agentes que ela acredita serem operados pela OpenAI fizeram milhões de requisições automatizadas às APIs públicas da organização;
• Os sistemas também percorreram milhões de páginas, principalmente nos projetos Wikidata e Wikimedia Commons, além de realizarem centenas de milhares de consultas ao Wikidata Query Service (WDQS), ferramenta utilizada para pesquisar e consultar os dados estruturados do Wikidata;
• A Wikimedia afirma que esse volume de tráfego pode ter contribuído para uma interrupção parcial do WDQS em maio;
• O registro do incidente aponta que a instabilidade começou em 7 de maio e afetou o serviço por vários dias;
• Em determinado momento, mais de 50% das requisições ao endpoint externo do serviço apresentavam timeout, enquanto o sistema chegou a entregar dados desatualizados por mais de 20 horas em alguns servidores.

Agentes fizeram edições sem autorização

A investigação também encontrou edições em wikis que a Wikimedia atribui a agentes da OpenAI.

A maioria ocorreu em áreas de testes, conhecidas como sandboxes, e não chegou a páginas exibidas normalmente para os leitores. No entanto, alguns agentes fizeram alterações na configuração de uma ferramenta de citações.

Segundo a fundação, essas mudanças podem ter sido maliciosas e aparentemente tinham como objetivo utilizar a ferramenta como um intermediário para buscar dados em serviços externos.

A Wikipédia permite que bots façam determinadas edições, desde que sejam identificados e aprovados pela comunidade. De acordo com a Wikimedia, nenhuma dessas autorizações foi solicitada nos casos investigados.

Tentativa de explorar ferramenta de anotações

Outro alvo foi o Etherpad, ferramenta pública de anotações hospedada pela Wikimedia como serviço para a comunidade.

Agentes que a fundação acredita estarem ligados à OpenAI tentaram, sem sucesso, comprometer a ferramenta. Uma das estratégias identificadas envolvia tentar utilizá-la como intermediária para buscar dados em outros sites.

Outros agentes aparentemente ligados à OpenAI também usaram o Etherpad para registrar anotações sobre suas próprias tarefas. A investigação, porém, não encontrou evidências de que essas anotações tenham sido usadas para coordenar as atividades dos diferentes agentes.

Wikimedia diz que não houve invasão

Apesar das atividades identificadas, a investigação não encontrou evidências de comprometimento dos sistemas ou dos dados da Wikimedia. A entidade também não encontrou indícios de que sua infraestrutura tenha sido usada para permitir a comunicação ou coordenação entre agentes.

O problema, segundo a fundação, vai além de uma eventual invasão bem-sucedida. O volume de acessos automatizados pode consumir recursos de infraestrutura, aumentar custos e até impedir que usuários humanos consigam acessar os serviços normalmente.

A Wikimedia afirma que o comportamento de agentes autônomos representa desafio para plataformas construídas originalmente para interação humana e que ainda não existem soluções suficientes para lidar com esse tipo de atividade.

OpenAI já reconheceu comportamento imprevisível

A Fundação Wikimedia afirmou que empresas de IA precisam assumir responsabilidade pelos agentes que colocam em circulação e desenvolver mecanismos para monitorar e impedir danos a serviços públicos da internet.

A entidade também citou declarações da própria OpenAI sobre agentes que podem apresentar comportamentos “imprevisíveis”.

Para a Wikimedia, não é suficiente que organizações menores ou comunidades de voluntários tenham de identificar, investigar e corrigir as consequências dessas atividades depois que elas acontecem.

O episódio ocorre em meio a uma série de investigações sobre agentes de IA desenvolvidos pela OpenAI. A empresa já havia informado que estava investigando atividades não autorizadas de seus agentes e notificando organizações afetadas por comportamentos considerados indevidos.

No caso da Wikimedia, a fundação afirma que os episódios reforçam a preocupação com o impacto que agentes autônomos podem ter sobre a infraestrutura pública da internet — especialmente quando conseguem acessar serviços em grande escala sem autorização.

A organização defende que empresas que desenvolvem e colocam esses agentes em circulação também devem ajudar a evitar e reparar os danos que eles possam causar.

O post Wikimedia acusa agentes da OpenAI de ações não autorizadas apareceu primeiro em Olhar Digital.