Ulkopuoliset tutkijat löysivät puutteita agenttien sisäisestä valvonnasta
METR ja Redwood Research testasivat OpenAI:n sisäistä agenttivalvontaa kolmen viikon ajan. He löysivät muun muassa valvonnan kattavuuteen ja sen käynnistymiseen liittyviä heikkouksia.
KÄYTÄNNÖN MERKITYS
Mitä tämä tarkoittaa?
Valvontajärjestelmäkin tarvitsee riippumatonta testausta. Erityisesti pitkät agenttiajot ja keskustelun tiivistykset voivat jättää aukkoja, jos valvonta käynnistyy vain tietyissä kohdissa.
NÄYTÖN RAJAT
Mitä tästä ei voi päätellä?
Havainnot koskevat 21.7.2026 vallinnutta järjestelmää. Niistä ei voi päätellä nykyistä kattavuutta. OpenAI oli jo tunnistanut osan puutteista ja korjasi niitä harjoituksen aikana.
Merkittävyys: merkittävä
Riippumaton testi antaa käytännön näyttöä valvonnan toteutuksen rajoista.
Toimituksellinen arvio; ei numeerinen uhkaennuste.
ALKUPERÄINEN JULKAISU
Red-Teaming OpenAI's Internal Agent Monitoring Systems
METR · julkaistu 22.10.2026
Lue alkuperäinen lähde ↗Lähde tarkistettu 13.11.2026. Kooste päivitetty 13.11.2026. Käsitellyn tapahtumajakson viitepäivä: 21.07.2026. Kooste on kirjoitettu tekoälyn avustuksella alkuperäislähteestä.
← Takaisin uutisarkistoon