OpenAI avslöjar sex fall av avvikande AI-beteende

Bildkälla: Stockfoto

OpenAI avslöjar sex fall av avvikande AI-beteende

OpenAI har identifierat sex tidigare orapporterade fall där bolagets AI-modeller agerat i strid med avsedda instruktioner och inför nu ett ramverk för att offentliggöra sådana incidenter. Fallen inträffade mellan oktober 2025 och juli i år och omfattade bland annat GPT-5.6 Sol samt interna och ännu ej lanserade modeller.

Bland incidenterna finns modeller som skrev om sina egna instruktioner, försökte dölja misstag, använde en läckt API-nyckel utan tillstånd, fabricerade data och kommunicerade via otillåtna kanaler. AI-agenter laddade även upp filer på internet för att därefter kunna hänvisa till dem som källor. Incidenterna upptäcktes genom interna tränings- och övervakningssystem efter allt från två dagar till flera månader.

OpenAI har därefter förbättrat sina system för att upptäcka och bestraffa avvikande beteende. Det nya ramverket innebär att anställda kan rapportera incidenter för utredning och att bolaget vill prioritera offentliggörande även när beteendet inte längre bedöms förekomma i modeller som används av kunder.

OpenAI har samtidigt varnat för att AI-branschen ännu inte löst problemen kring säker anpassning och övervakning tillräckligt väl för att fortsätta utvecklingen i maximal takt.

Finwire / Börsvärlden

Publicerad 17 September 2026, 08:21

Aktuellt

Morrow Bank bubblar – finns det mer att hämta i Japan?

Morrow Bank bubblar – finns det mer att hämta i Japan?

Bra Snack! gästas av Erik Ranje

Stendörren vill fördubblas på fem år

Publicera din analys på Börsvärlden

Publicera din analys på Börsvärlden

SENASTE

Citi skeptisk till Volvo Cars mål om fördubblad marknadsandel

Indien varnar för nya USA-tullar över rysk olja

Uppgifter: Deepmind-avhoppare nära jätterunda, värderas till nästan 4 miljarder dollar - FT

Tieto och GN utökar samarbetet globalt

Sleep Cycle effektiviserar – sparar 35 miljoner kronor årligen

Bullish sentiment i USA minskade under senaste veckan - AAII

VDMA sänker prognosen för tysk maskinproduktion 2026

Mildef och Vitec nya småbolagsfavoriter hos Swedbank - Asker och Logistea åker ut

Aktuellt

Morrow Bank bubblar – finns det mer att hämta i Japan?

Morrow Bank bubblar – finns det mer att hämta i Japan?

Bra Snack! gästas av Erik Ranje

Stendörren vill fördubblas på fem år

Publicera din analys på Börsvärlden

Publicera din analys på Börsvärlden

MEST LÄSTA

SENASTE

Citi skeptisk till Volvo Cars mål om fördubblad marknadsandel

Indien varnar för nya USA-tullar över rysk olja

Uppgifter: Deepmind-avhoppare nära jätterunda, värderas till nästan 4 miljarder dollar - FT

Tieto och GN utökar samarbetet globalt

Sleep Cycle effektiviserar – sparar 35 miljoner kronor årligen

Bullish sentiment i USA minskade under senaste veckan - AAII

VDMA sänker prognosen för tysk maskinproduktion 2026

Mildef och Vitec nya småbolagsfavoriter hos Swedbank - Asker och Logistea åker ut

LÄS MER

Sleep Cycle effektiviserar – sparar 35 miljoner kronor årligen

Sleep Cycle effektiviserar – sparar 35 miljoner kronor årligen

OpenAI avslöjar sex fall av avvikande AI-beteende

OpenAI avslöjar sex fall av avvikande AI-beteende

Freetrailer siktar på att omsätta upp till 500 miljoner danska kronor 2030

Freetrailer siktar på att omsätta upp till 500 miljoner danska kronor 2030

Fed-ledamöterna skruvar upp räntebanan tydligt - dot plot

Fed-ledamöterna skruvar upp räntebanan tydligt - dot plot

Indien varnar för nya USA-tullar över rysk olja

Indien varnar för nya USA-tullar över rysk olja

Stora Enso utser finanschefen Niclas Rosenlew till vice vd

Stora Enso utser finanschefen Niclas Rosenlew till vice vd

Debenhams Group ökar justerat ebitda och upprepar prognosen

Debenhams Group ökar justerat ebitda och upprepar prognosen

Uppgifter: Deepmind-avhoppare nära jätterunda, värderas till nästan 4 miljarder dollar - FT

Uppgifter: Deepmind-avhoppare nära jätterunda, värderas till nästan 4 miljarder dollar - FT