Најголемото светско складиште за AI модели Hugging Face компромитирано од автономен AI агент

Во ироничен пресврт, платформата за вештачка интелигенција со отворен код Hugging Face соопшти дека била жртва на сајбер-напад извршен од автономен систем базиран на вештачка интелигенција.

Компанијата соопшти дека го открила и го неутрализирала нападот врз својата продукциска инфраструктура на почетокот од минатата недела.

„Идентификувавме неовластен пристап до ограничен број интерни бази на податоци, како и до неколку акредитиви (credentials) што ги користат нашите услуги“, се наведува во соопштението на компанијата.

Истрагата за упадот сè уште е во тек, но Hugging Face нагласи дека засега нема докази оти AI агентот ги изменил јавно достапните модели, базите на податоци (datasets), Spaces или сопствениот синџир за испорака на софтвер (software supply chain).

Нападот започнал преку системот за обработка на податоци

Почетната точка на нападот била самата инфраструктура за обработка на податоци. Злонамерен dataset искористил две различни патеки за извршување код:

• далечинскиот механизам за вчитување на datasets (remote code dataset loader);
• template injection во конфигурацијата на dataset.

На тој начин бил извршен злонамерен код на еден од обработувачките сервери (processing worker).

Откако го добил почетниот пристап, напаѓачот успеал да ги зголеми привилегиите до ниво на јазол (node-level access), да прибере акредитиви за облачната инфраструктура и кластерите, а потоа латерално да се прошири во повеќе внатрешни кластери во текот на викендот.

Илјадници автоматизирани акции

Засега не е познато кој голем јазичен модел (LLM) бил искористен во нападот. Сепак, Hugging Face наведува дека кампањата ја извела автономна AI рамка (agent framework) која спровела илјадници поединечни активности преку голем број краткотрајни sandbox околини, користејќи самопреместувачка инфраструктура за командување и контрола (C&C) поставена на јавни сервиси.

Преземени мерки

Компанијата соопшти дека веќе ја отстранила основната ранливост, односно патеките за извршување код преку кои бил добиен првичниот пристап.

Дополнително биле преземени следните мерки:

• отстранување на присуството на напаѓачот од погодените кластери и повторна изградба на компромитираните јазли;
• поништување и замена на сите компромитирани акредитиви и токени, како и превентивна ротација на дополнителни тајни (secrets);
• воведување дополнителни безбедносни механизми и построги контроли за пристап во кластерите;
• подобрување на системите за детекција и алармирање, така што безбедносните тимови ќе бидат известени во рок од неколку минути, 24 часа дневно.

Како дополнителна мерка на претпазливост, Hugging Face им препорачува на своите корисници да ги заменат сите токени за пристап (access tokens) и внимателно да ја проверат неодамнешната активност на своите сметки.

За форензичката анализа користен кинески AI модел

Компанијата откри и дека за форензичката анализа по инцидентот го користела GLM 5.2 на кинеската компанија Z.ai, модел со отворени тежини (open-weight model).

Причината била тоа што водечките западни AI модели одбиле да обработуваат барања што содржеле вистински команди од нападот, exploit payload-и и артефакти од инфраструктурата за командување и контрола (C2), бидејќи нивните безбедносни механизми (guardrails) ги препознале како потенцијално опасни. Истовремено, тие не можеле да направат разлика помеѓу вистински напаѓач и легитимна форензичка истрага при одговор на безбедносен инцидент.

„Ова искуство укажува на празнина за која вреди однапред да се планира“, соопшти компанијата со седиште во Њујорк.

„Не знаеме кој модел ги придвижувал агентите на напаѓачот – дали станувало збор за пробиен (jailbroken) хостиран модел или за неограничен модел со отворени тежини. Во секој случај, напаѓачот не бил ограничен со никакви правила за користење, додека нашата форензичка анализа беше блокирана од безбедносните ограничувања на хостираните модели што првично ги користевме.“

Компанијата заклучува дека практичната поука за организациите е однапред да имаат подготвен и проверен AI модел што може да се извршува во сопствената инфраструктура. Така ќе се избегне блокирање од безбедносните механизми на комерцијалните AI услуги, а чувствителните податоци, акредитивите и информациите за нападот нема да ја напуштат организациската средина за време на истрагата.

Извори:

• The Hacker News – World’s Largest AI Model Repository Hugging Face Breached by Autonomous AI Agent The Hacker News