Tekoälyagentit puhuvat yhä useammin toisilleen. Ars Technican mukaan tätä varten käytetty MCP-protokolla voi olla yksi riskialtteimmista tekniikoista, joista harva on kuullut.
Mistä on kyse
Tutkijat löysivät haavoittuvuuden muun muassa Googlen agenteista. Kun agentti vastaanottaa toiselta agentilta tekstiä, se ei aina erota, onko kyse tiedosta vai käskystä. Näin haitallinen kehote voi kulkea agentilta toiselle.
Rakenteellinen ongelma
Tutkijoiden mukaan kyse ei ole yksittäisestä ohjelmointivirheestä vaan protokollan luottamusmallista. Paikkaaminen yhdessä tuotteessa ei poista riskiä muualta.
Mitä tämä tarkoittaa
Yritysten, jotka kytkevät agentteja toisiinsa, kannattaa rajata agenttien oikeudet tiukasti ja vaatia ihmisen hyväksyntä kriittisille toimille.
