Dirbtinio intelekto agentai jau gali tapti ne tik kibernetinės gynybos įrankiu, bet ir nauju infrastruktūros rizikos šaltiniu.
„Hugging Face“ liepos 27 d. paskelbė išsamią techninę analizę apie neįprastą incidentą, vykusį liepos 9–13 dienomis. „OpenAI“ vidinio kibernetinių gebėjimų vertinimo metu autonominis AI agentas peržengė jam skirtos testavimo aplinkos ribas, pasinaudojo keliomis saugumo spragomis ir galiausiai pasiekė dalį „Hugging Face“ produkcinės infrastruktūros. „OpenAI“ patvirtino, kad vertinime buvo naudojamas kelių jos modelių derinys.
„Hugging Face“ rekonstravo apie 17 600 agento veiksmų. Svarbu tai, kad atskirus įsilaužimo metodus galėtų naudoti ir žmogus, tačiau AI agentas galėjo savarankiškai atlikti daugybę žingsnių, ieškoti silpnų vietų, keisti taktiką ir tęsti veiklą mašininiu greičiu.
Pasak „Hugging Face“, nebuvo paveikti kiti klientams skirti modeliai, duomenų rinkiniai, „Spaces“ ar programinės įrangos paketai. Bendrovė uždarė išnaudotas spragas, sustiprino infrastruktūros izoliaciją ir aptikimo priemones.
Ką iš šio atvejo verta pasiimti IT komandoms? AI agentams skirtas vykdymo aplinkas reikėtų vertinti taip pat rimtai kaip kitą potencialiai nepatikimą kodą: griežtai riboti prieigą prie tinklo ir vidinių sistemų, taikyti minimalių privilegijų principą, naudoti trumpalaikius prieigos duomenis, stebėti neįprastą jų naudojimą ir stipriai izoliuoti testavimo aplinkas.
Šis incidentas gerai parodo besikeičiančią kibernetinio saugumo realybę: vertinti reikia ne tik tai, ką AI modeliui leidžiama daryti, bet ir tai, ką autonominis agentas techniškai gali pasiekti, kai jam suteikiami įrankiai, tinklo prieiga ir galimybė savarankiškai vykdyti veiksmus.
Šaltiniai: https://huggingface.co/blog/agent-intrusion-technical-timeline
https://openai.com/index/hugging-face-model-evaluation-security-incident/