Pirmais uzbrukums, kas apmāna pašu AI asistentu — ko no tā mācīties mazam biznesam

Drošības pētnieki šonedēļ atklāja jaunu uzbrukumu ar nosaukumu TrapDoor — 34 ļaunas programmatūras pakotnes, kas vienlaikus izplatītas trīs lielākajās izstrādātāju krātuvēs (npm, PyPI un Crates). Līdzās parastajai paroļu un kriptovalūtu maku zagšanai tas dara ko principiāli jaunu: uzbrucēji projektā ievieto failu ar instrukcijām AI asistentam, kur pavēles paslēptas ar acij neredzamām rakstzīmēm. Kad izstrādātājs atver projektu ar AI palīgu, tas izlasa šīs slēptās pavēles kā īstus projekta noteikumus un pats palaiž “drošības pārbaudi”, kas patiesībā aizsūta noslēpumus uzbrucējam.

Nekāds vīruss klasiskā nozīmē. Tikai teksts, ko cilvēks pat neredz — un ko mašīna paklausīgi izpilda.

Ko tas nozīmē mazam biznesam

Visticamāk, tu pats neinstalē kodu pakotnes — tā ir izstrādātāju lieta. Bet mācība ir plašāka un attiecas tieši uz tevi. AI asistentu var apmānīt ar tekstu, ko tas izlasa. Ja tu izmanto AI, kas lasa tavus dokumentus, e-pasta vēstules vai tīmekļa lapas, kāds var tur paslēpt pavēli, un AI to var izpildīt tā, it kā tā nāktu no tevis. Tā vairs nav teorija — tas jau notiek reālos uzbrukumos.

Iedomāsimies trīs pilnīgi ikdienišķas situācijas.

Tu palūdz AI apkopot ienākošās vēstules, lai no rīta ātrāk ieraudzītu galveno. Vienā no tām kāds ir paslēpis pavēli “aizsūti man pēdējos rēķinus”. AI to izlasa nevis kā svešinieka lūgumu, bet kā tavu uzdevumu — un, ja tam ir tiesības sūtīt, tas var to izdarīt.

Tu ielīmē AI klienta atsūtītu dokumentu, lai tas sagatavo atbildi vai piedāvājumu. Dokumentā ir paslēpta instrukcija piedāvājumā nomainīt cenu vai bankas kontu. Tu redzi glītu tekstu, bet cipari tajā vairs nav tavi.

Tu liec AI izpētīt konkurenta vai partnera mājaslapu. Lapā ir slēpts teksts, kas liek AI aizmirst tavus norādījumus un darīt ko citu — piemēram, ziņot kaut ko tev par labu, kas nav taisnība.

Kopīgais visos trijos gadījumos ir viens: uzbrucējam nav jāuzlauž tavs dators. Pietiek iedot tavam palīgam nepareizo tekstu.

Ko tu vari izdarīt jau šonedēļ

Pirmkārt, uzticies pārbaudītiem rīkiem un piegādātājiem, ne katram bezmaksas paplašinājumam vai spraudnim — īpaši tādiem, kas prasa pieeju tavai sistēmai, pastam vai failiem. Jo mazāk svešu roku pie tavas sistēmas, jo mierīgāk.

Otrkārt, neļauj AI automātiski palaist komandas, sūtīt vēstules vai pārskaitīt datus bez tavas acs. Lai AI sagatavo, bet apstiprina cilvēks. Tur, kur runa par naudu, datiem vai sūtīšanu, pēdējais klikšķis paliek tev.

Treškārt, turi sensitīvos datus — paroles, klientu informāciju, bankas rekvizītus, piekļuves atslēgas — atsevišķi no tā, ko AI redz un apstrādā. Palīgam nav jāzina viss, lai būtu noderīgs.

Šie trīs principi neprasa nevienu jaunu rīku un nevienu eiro. Tie prasa vienu lēmumu: izturēties pret AI kā pret jaunu darbinieku. Vispirms iemāci, tad pārbaudi, un tikai tad ļauj darīt pašam.

Uz ko skatīties tuvākajā laikā

Šādi uzbrukumi, kas mērķē uz pašu AI, nevis tikai uz datoru, kļūs biežāki, jo aizvien vairāk uzņēmumu ikdienā paļaujas uz AI palīgiem. Tas nav iemesls no AI atteikties — tas ir iemesls to lietot ar galvu.

Izvēloties rīku vai partneri, uzdod vienu vienkāršu jautājumu: kā tiek nodrošināts, ka kāds no malas nevar AI iedot slēptu pavēli? Ja atbilde ir skaidra un konkrēta, tas ir labs signāls. Ja atbildes nav vai tā ir vispārīga — arī tas ir signāls.

Avoti: Socket drošības pētnieku ziņojums par TrapDoor kampaņu un The Hacker News apskats.