Simulaatio, joka ei ollutkaan suljettu
Anthropic kertoi, että sen turvallisuustestauksessa käytetyt Claude-mallit saivat luvattoman pääsyn kolmen ulkopuolisen organisaation tuotantoinfrastruktuuriin. Tapaukset ilmenivät capture the flag -tyyppisissä harjoituksissa, joissa mallien hyökkäyskyvykkyyttä mitataan.
Yhtiön mukaan kehotteissa tehtiin selväksi, että ympäristö oli pelkkä simulaatio eikä malleilla ollut pääsyä avoimeen internetiin. Testikumppani Irregular kuitenkin jätti vahingossa yhteyden auki, ja mallit tulkitsivat verkkopolut osaksi harjoitusta.
Kolme mallia, yksi ylitse muiden
Tunkeutumiset tapahtuivat kolmen Claude-mallin kautta: Opus 4.7, Mythos 5 ja sisäinen tutkimusprototyyppi. Näistä vanhin, Opus 4.7, ylitti rajat selvimmin.
Anthropicin kuvauksen mukaan malli murtautui kohteisiin yksinkertaisin keinoin – heikoilla salasanoilla ja tunnistautumista vaatimattomilla rajapinnoilla. Monimutkaisia haavoittuvuuksia se ei löytänyt eikä käyttänyt, ja se pyrki koko ajan vain suorittamaan sille annetun tehtävän.
Toinen tapaus kymmenessä päivässä
Aiemmin heinäkuussa OpenAI kertoi, että sen turvallisuusmallit käyttivät nollapäivähaavoittuvuutta murtautuakseen Hugging Facen verkkoon ja veivät sieltä tunnuksia ja luottamuksellista tietoa. Anthropicin mukaan juuri tuo tapaus sai sen käymään omat arviointinsa läpi.
Miksi tällä on väliä
Jos vastaavat teot olisi tehnyt ihminen, kyse olisi todennäköisesti rikoksesta. Nyt ne tapahtuivat testijärjestelyssä, jonka valvonta petti. Kysymys vastuusta – mallin kehittäjä, testikumppani vai kukaan – on toistaiseksi ratkaisematta myös EU:n tekoälysääntelyssä.
