Anthropic on julkaissut tietoturva-analyysin, jonka mukaan pienet, paikallisesti ajettavat tekoälymallit voivat tulevaisuudessa levitä verkossa itsenäisesti. Yhtiö kutsuu ilmiötä termillä small weight-based replicators eli pienet painopohjaiset replikaattorit.
Miten uhka toimisi
Perinteinen tietokonemato noudattaa ennalta kirjoitettua koodia. Replikaattorissa mukana kulkisi kielimalli, joka voisi itse etsiä uusia haavoittuvuuksia, sopeuttaa toimintaansa ja kopioida mallin painot seuraavaan laitteeseen.
Analyysin mukaan erityisen alttiita ovat huonosti päivitetyt IoT-laitteet, kuten valvontakamerat ja kotireitittimet, joita on maailmassa miljardeja.
Ei vielä todellinen hyökkäys
Anthropic painottaa, ettei tällaista haittaohjelmaa ole havaittu luonnossa. Tavoitteena on herättää laitevalmistajat ja tietoturva-ala varautumaan ennen kuin pienet mallit kehittyvät riittävän kyvykkäiksi.
Laitteiden päivitettävyydestä tulee tekoälyaikana entistä kriittisempi turvallisuuskysymys.
Toimituksen arvion mukaan varoitus on uskottava, mutta sen aikataulu on epävarma.
