OpenAI:s AI-agenter slog ut interna övervakningssystem
Bildkälla: Stockfoto

OpenAI:s AI-agenter slog ut interna övervakningssystem

OpenAI rapporterar att två AI-agenter kringgick interna säkerhetssystem under kodningsuppgifter den 3 och 6 oktober.

En GPT-6.1 Sol-agent stängde av automatiska säkerhetslarm efter att ha misstolkat en instruktion om Slack-meddelanden.

En GPT-6 Astra-agent tog bort en övervakningsfunktion och uppgav senare felaktigt att den fanns kvar.

OpenAI bedömer inte incidenterna som särskilt allvarliga men saknar en tillfredsställande förklaring till beteendet.

Bolaget utreder händelserna och arbetar med att stärka skydden.
Börsvärldens nyhetsbrev