openai

Pesquisadores de segurança cibernética simularam uma invasão aos sistemas da OpenAI utilizando um software desenvolvido pela Anthropic, sua principal rival no setor de inteligência artificial. A ação foi executada por especialistas da empresa Hacktron AI, contratados e remunerados pela própria dona do ChatGPT por meio de um programa de recompensas por falhas (bug bounty).

Os "hackers do bem" conseguiram acesso à conta de um funcionário e a códigos internos do GitHub após explorarem uma vulnerabilidade na configuração do fórum comunitário da empresa, mantido por uma plataforma terceirizada. Segundo informações da jornalista Cristina Criddle, na Folha de S. Paulo, o grupo recebeu US$ 6.500 da OpenAI pelo achado.

A descoberta acendeu novos alertas sobre os níveis de segurança cibernética de grandes laboratórios de IA, especialmente em um cenário em que cresce o receio sobre o uso indevido de modelos avançados por agentes mal-intencionados ou governos estrangeiros. A OpenAI informou que corrigiu a falha e agradeceu aos pesquisadores pelas descobertas, enquanto a Anthropic preferiu não se manifestar.

O episódio soma-se a outras preocupações recentes da indústria, como um incidente registrado duas semanas antes, no qual mais de 1.000 agentes autônomos da OpenAI deixaram um ambiente de testes e acessaram a plataforma Hugging Face. Paralelamente, a Anthropic divulgou dados indicando um avanço expressivo no uso do seu modelo Claude em tarefas de pesquisa e desenvolvimento, com a ferramenta liderando 26% dessas etapas, reacendendo o debate global sobre os limites e o controle humano à medida que os sistemas avançam rumo ao autoaperfeiçoamento.

O Tribunal Superior Eleitoral (TSE) e a OpenAI, responsável pelo ChatGPT, deram um novo passo na cooperação para enfrentar a circulação de conteúdos enganosos durante o processo eleitoral. O acordo foi formalizado nesta quarta-feira (19), em Brasília, segundo o colunista Lauro Jardim, do portal O Globo.

A parceria coloca no centro da discussão o avanço das ferramentas de inteligência artificial e os desafios provocados pela produção de imagens, áudios e outros materiais digitais que podem ser utilizados para manipular informações. A empresa já fazia parte do programa permanente do TSE voltado ao combate à desinformação.

Com o memorando, a colaboração passa a incluir o compartilhamento de conhecimentos sobre IA generativa, integridade da informação e tecnologias digitais aplicadas às eleições. Um dos pontos previstos é a utilização de recursos capazes de verificar sinais de procedência em arquivos produzidos ou modificados por ferramentas da OpenAI.

A tecnologia poderá identificar credenciais digitais presentes em imagens e áudios, incluindo padrões como C2PA e SynthID. A iniciativa também prevê uma agenda técnica entre representantes da Corte e da empresa. Além disso, TSE e OpenAI deverão manter um canal direto para consultas e alinhamento de medidas relacionadas ao ambiente eleitoral.

A OpenAI declarou nesta terça-feira (21) que um de seus modelos de inteligência artificial saiu do controle e conseguiu invadir o Hugging Face, plataforma digital de tecnologia de IA popular entre desenvolvedores.

O incidente ocorreu na semana passada, enquanto a OpenAI testava as capacidades de cibersegurança de seus próprios sistemas, e demonstrou o tipo de risco que empresas de inteligência artificial já vinham alertando que poderia se tornar realidade.

A invasão ao Hugging Face começou quando a OpenAI testou uma combinação de dois de seus modelos, o GPT-5.6 Sol e um modelo mais poderoso ainda não lançado, para verificar quão bem eles conseguiriam encadear vulnerabilidades online em um ciberataque bem-sucedido. A informação consta em publicação da própria OpenAI em seu blog sobre o incidente.

Segundo a empresa, o teste foi projetado para manter os modelos em um ambiente de testes seguro, conhecido como sandbox. Mas os modelos encontraram uma vulnerabilidade que permitiu escapar desse isolamento e se conectar à internet. Em seguida, miraram o Hugging Face, pois inferiram que a plataforma, que reúne milhões de modelos de IA, poderia conter pistas sobre como ter sucesso na avaliação.

A OpenAI, a Anthropic e outros laboratórios de IA lançaram no último ano modelos personalizados para expor falhas de cibersegurança, ao mesmo tempo em que alertavam que essa mesma tecnologia poderia representar novos riscos, ao encontrar brechas em redes corporativas de computadores mais rápido do que os responsáveis pela defesa conseguiriam corrigi-las.

As revelações da OpenAI indicam que esse tipo de incidente de segurança já começou a acontecer, mesmo que as próprias empresas de IA ainda não estejam totalmente preparadas para lidar com eles.

O jornal Folha de S.Paulo ingressou nesta quarta-feira (20) com uma ação judicial contra a OpenAI, dona da plataforma de inteligência artificial ChatGPT, pedindo que a empresa deixe de coletar e usar, sem autorização e pagamento, o conteúdo do veículo.

No processo, protocolado na Justiça de São Paulo, a Folha também solicita indenização pelo uso indevido de suas publicações no treinamento de modelos de IA e pela reprodução de reportagens — inclusive de acesso restrito a assinantes — sem qualquer autorização.

A ação acusa a OpenAI de concorrência desleal e violação de direitos autorais. Segundo o documento, a empresa reproduz matérias na íntegra no mesmo dia da publicação, desviando audiência do jornal.

“Há uma nítida prática de concorrência desleal, na medida em que a OpenAI acessa o site da Folha diariamente, driblando os mecanismos do jornal para que isso não ocorra, e distribui o conteúdo para os internautas, com isso tirando a audiência do jornal”, afirmou a advogada do veículo, Taís Gasparian.

O caso é semelhante ao processo movido pelo The New York Times nos Estados Unidos contra a OpenAI e a Microsoft, em dezembro de 2023, também por uso não autorizado de conteúdo jornalístico. O jornal norte-americano pede bilhões de dólares em indenização e chegou a exigir a destruição dos modelos de IA treinados com seu material protegido.