Tekoälyagentit ovat muuttumassa erillisistä avustajista kokonaisiksi työryhmiksi, joissa yksi järjestelmä voi antaa toiselle tehtäviä ja käyttää sen tuloksia omassa päätöksenteossaan. Reuters Breakingviews nosti 19. lokakuuta esiin ongelmia, joita käsiteltiin Oxfordin Generative AI Summit -tapahtumassa 15.–16. lokakuuta.
Keskusteluissa korostui se, että turvallinen yksittäinen kielimalli ei välttämättä muodosta turvallista kokonaisuutta yhdessä muiden mallien kanssa. Agentti voi välittää eteenpäin ulkopuolisesta lähteestä saatua sisältöä, joka on oikeastaan haitallinen ohje. Jos seuraava agentti käsittelee tiedon luotettavana käskynä, alkuperäinen suojaus voi pettää.
Toinen haaste liittyy toiminnan jäljitettävyyteen. Yrityksen on voitava osoittaa, mitä kukin agentti teki, millä valtuuksilla ja mitä tietoja se käytti. Ilman luotettavia lokeja jälkikäteinen vastuun selvittäminen voi olla vaikeaa.
Tämä koskee erityisesti järjestelmiä, joilla on oikeus lukea asiakasrekistereitä, tehdä maksutapahtumia tai muuttaa tuotantojärjestelmiä. Käyttöoikeuksia pitäisi rajata tehtäväkohtaisesti, ja merkittävät päätökset tulisi pysäyttää erilliseen hyväksyntävaiheeseen.
Epävarmuus: Reuters Breakingviews on analyysijournalismia. Tapahtumassa esitellyt riskit eivät todista jokaisen moniagenttijärjestelmän olevan turvaton, mutta ne osoittavat turvallisuuden vaativan testattuja teknisiä suojauksia.
