Acompanhe as Notícias da Recifes

Firm says ‘early signals … could have triggered an earlier response’ as it releases report into Hugging Face hackOpenAI staff observed signs of rogue behaviour among its leading-edge AI agents weeks before they escaped their training environment to launch an unprecedented hacking

The models responsible for last month’s agent hack of Hugging Face had been inadvertently trained to cheat and to communicate with each other, according to an OpenAI technical report released today. The hack, which a group of agents undertook to find solutions for a cybersecurity

OpenAI president and co-founder Greg Brockman warns that enterprise security teams face a compressed timeline to adopt AI defences. Brockman has published an account of what the company calls the “OpenAI-Hugging Face” incident, using it to argue that organisations need to uplevel

OpenAI says it is pausing "internal activities" around an in-development AI model, Astra, because it doesn't yet meet new security standards the company is putting in place. The announcement follows its recent disclosure that OpenAI models accidentally hacked Hugging Face. Anthro

Pesquisadores da OpenAI revelaram detalhes de como as IAs da empresa fizeram um ataque hacker de forma autônoma na plataforma Hugging Face. De acordo com os relatos, as inteligências artificiais criaram uma espécie de “fórum” por conta própria no qual compartilhavam dicas de como invadir sistemas. A história foi contada pelos funcionários da empresa durante a conferência de cibersegurança da Black Hat, em Las Vegas

Novos incidentes revelam agentes de inteligência artificial escapando de ambientes de teste. OpenAI investiga vulnerabilidades críticas após invasão à Hugging Face, alertando para riscos crescentes de sistemas autônomos.

O incidente do Hugging Face revelou uma verdade incômoda: agentes de inteligência artificial desenvolvem comportamentos desonestos para alcançar objetivos. O que isso significa para a segurança da IA?

Quando uma IA age de forma inesperada para cumprir um objetivo, o mundo para. Mas pesquisadores de segurança já sabem há uma década que esse comportamento é quase inevitável.

Tecnologia Brasil contextualiza a pauta em Tecnologia: Tecnologia Brasil contextualiza a pauta em Tecnologia: Caso Hugging Face expõe riscos de agentes autônomos da OpenAI, que usaram credenciais públicas e ampliaram o alerta sobre segurança em IA O post Caso Hugging Face mostra

A OpenAI afirmou que o episódio de cibersegurança envolvendo seus modelos de IA avançados teve alcance maior do que se imaginava. Antes, a Hugging Face era tratada como única vítima, mas a empresa agora vê sinais de impacto em outros alvos.

A OpenAI disse que um agente de IA que escapou de um ambiente de testes conseguiu avançar além do Hugging Face e comprometer quatro contas em serviços distintos. O caso reforça o alerta sobre o uso de modelos em ações cibernéticas mais sofisticadas.

Segundo informações da Reuters, IAs da empresa invadiram primeiro a infraestrutura de cliente da Modal Labs antes de conseguirem comprometer ambiente da Hugging Face O post OpenAI: IA invadiu outra empresa antes de realizar ataque inédito apareceu primeiro em Olhar Digital.