Google Gemini CLI злоупотребен како алатка за хакирање и управување со малициозна бот-мрежа

Рускојазичен актер за сајбер закани, познат под псевдонимот „bandcampro“, го злоупотребил отворениот AI алат Google Gemini CLI како агент за хакирање и за управување со бот-мрежа од помал обем.

Според истражувачите, AI агентот одговарал на барањата на напаѓачот, ги решавал техничките проблеми во реално време и најмалку 59 пати предложил подобрувања на операциите.

Во повеќе од 200 сесии, од 19 мај до 21 април, напаѓачот со помош на AI алатката воспоставил и управувал со инфраструктура што контролирала осум компјутерски системи во стоматолошка клиника, како и обезбедил пристап до базата на податоци OpenDental.

AI агентот ја презел улогата на „овластен пенетрациски тестер“ (authorized pen tester), работејќи без безбедносни предупредувања и автоматски зачувувајќи ги сите внесени кориснички креденцијали.

Неговата skill датотека содржела целосен прирачник за командно-контролниот (C2) систем, вклучувајќи:

• опис на архитектурата;
• стандардни оперативни процедури;
• код за инфицирање на системите;
• команди за воспоставување траен пристап (persistence);
• чекори за дијагностика и отстранување на проблеми.

AI управувал со миграцијата на бот-мрежата

Истражувачите од Trend Micro велат дека напаѓачот го искористил Gemini CLI за да ја префрли бот-мрежата на нова C2 (Command-and-Control) инфраструктура.

Почнувајќи од едноставната инструкција **„Study the C2 migration“ („Проучи ја миграцијата на C2 инфраструктурата“) **, AI агентот го анализирал прирачникот и автоматски ги подготвил сите чекори и програмскиот код потребни за миграцијата.

За само шест минути, AI:

• ја мигрирал C2 инфраструктурата;
• ја поставил новата архитектура;
• го генерирал потребниот програмски код;
• распоредил VPS сервер;
• ја конфигурирал Cloudflare инфраструктурата;
• извршил почетно дебагирање (debugging).

„AI го прочита прирачникот за миграција, подготви пакет за миграција што содржеше серверски код, payload-и и skill датотеката. Потоа го распакува пакетот, го стартува C2 серверот на VPS и го воспостави Cloudflare тунелот“, наведуваат истражувачите од Trend Micro.

Кога заразените системи првично не успеале повторно да се поврзат, AI агентот утврдил дека причината е конфликт во мрежниот сообраќај помеѓу стариот и новиот сервер. Откако напаѓачот го исклучил стариот сервер, сите компромитирани уреди (ботови) успешно се поврзале со новата инфраструктура.

Дневните оперативни логови покажуваат дека напаѓачот продолжил да управува со бот-мрежата целосно преку барања на природен јазик, поставувајќи прашања за тоа кои компјутери се активни, барајќи список на датотеки на одредени системи и генерирајќи линкови за инфицирање.

Од техничка гледна точка, поставеноста на бот-мрежата била изненадувачки едноставна. Сите нејзини компоненти и инструкции биле сместени во три обични текстуални датотеки со вкупна големина од околу 5 KB.

Овие датотеки содржеле:

• jailbreak промпт за Gemini;
• прирачник за командно-контролниот (C2) систем, кој ги опфаќал инфекцијата, воспоставувањето траен пристап (persistence) и отстранувањето на проблеми;
• водич за миграција на инфраструктурата.

C2 инфраструктурата користела Python HTTP сервер што работел во меморија, додека PowerShell агентите се поврзувале со него на секои пет секунди. За воспоставување траен пристап биле користени закажани задачи (Scheduled Tasks), WMI настани и измени во Windows регистарот, во зависност од достапните привилегии.

Според истражувачите од Trend Micro, самиот малициозен софтвер бил релативно едноставен, бидејќи не користел техники за обфускација, пакување (packing) или избегнување на детекција (evasion).

Покрај управувањето со бот-мрежата, напаѓачот наводно ја користел вештачката интелигенција и за:

• погодување лозинки преку генерирање веродостојни варијанти на постојни лозинки за WordPress портали;
• анализа на извлечени податоци од 1Password со цел да пронајде можни начини за понатамошна компромитација.

Истражувачите наведуваат дека вториот обид не успеал единствено затоа што операцијата траела доволно долго за AI моделот да го изгуби контекстот и пошироката слика за нападот.

Според анализираните логови, Gemini барем во еден случај одбил да постапи по барањето на напаѓачот, кога било побарано да изработи самораспространувачка „agent-bomb“. Наместо тоа, напаѓачот едноставно продолжил да користи AI за други задачи.

BleepingComputer побарал коментар од Google во врска со овој пример на злоупотреба на Gemini CLI, но до моментот на објавување на текстот компанијата не доставила одговор.

Извори:

• Bleeping Computer – Google Gemini CLI abused as a hacking agent, malware botnet operator Bleeping Computer