Новиот macOS малициозен софтвер Gaslight користи „prompt injection“ за да ја попречи анализата со помош на вештачка интелигенција

Претходно недокументиран малициозен софтвер за macOS, напишан на програмскиот јазик Rust, кој служи како имплант и крадец на информации, е откриен со вградена „prompt injection“ (инјекција на инструкции) содржина. Нејзината цел е да ги измами алатките за анализа базирани на вештачка интелигенција (AI) што ги користат аналитичарите за малициозен софтвер, така што ќе ги наведе да ја прекинат или одбијат анализата на примерокот.

Малициозниот софтвер е наречен Gaslight поради ова измамничко однесување. Со висок степен на сигурност се проценува дека е развиен од сајбер-заканувачки актери поврзани со Северна Кореја.

„Неговата највпечатлива карактеристика е вградена низа од лажни пораки за системски дефекти, дизајнирани да го натераат агентот за почетна анализа потпомогнат од голем јазичен модел (LLM) да се посомнева во сопствената сесија“, изјави истражувачот на SentinelOne, Фил Стоукс, во технички извештај. „Тој ја напаѓа перцепцијата на агентот, а не песочникот (sandbox) во кој се извршува.“

Во основата на архитектурата на малициозниот софтвер се наоѓа Telegram Bot API канал за командување и контрола (C2), кој работи во циклус на испрашување (polling). Тоа му овозможува на операторот да испраќа команди преку интерактивна школка (shell) и да ги добива резултатите од нивното извршување. Доколку две инстанци со ист Bot Token истовремено се обидат да комуницираат, се враќа одговор „Conflict“, по што втората копија автоматски се исклучува.

Школката поддржува шест главни команди, со што се обезбедува траен пристап до заразениот систем:

• help – прикажува помош за командите.
• id – го идентификува имплантот пред операторот.
• shell – извршува shell команда преку execvp.
• kill – прекинува процес според неговиот PID.
• upload – испраќа датотека преку механизмот attach:// на Telegram.
• stop – го запира извршувањето на имплантот.

Од SentinelOne наведуваат дека се пронајдени индиции за постоење и на седма команда наречена focus, но нејзината функција сè уште не е утврдена.

За да обезбеди трајно присуство на системот, Gaslight користи LaunchAgent, кој во својата .plist датотека ја користи ознаката com.apple.system.services.activity.

Во малициозниот софтвер е вградена и Python скрипта од 6,6 KB, кодирана во Base64, која служи како алатка за собирање информации. Таа прибира:

• историја на командите во Terminal,
• листа на инсталирани апликации,
• снимки од тековно активните процеси,
• хардверски и софтверски информации за системот,
• базата на macOS Keychain,
• податоци од прелистувачите Chrome, Brave, Firefox и Safari.

Собраните информации потоа се компресираат во ZIP-архива (temp/collected_data.zip) и се испраќаат преку Telegram.

Python-модулот за кражба на информации се инсталира преку посебен Bash-инсталер од 2 KB, исто така кодиран во Base64, кој инсталира cpython-3.10.18 од проектот astral-sh/python-build-standalone. Присуството на емотикони и обемни коментари во кодот укажува дека најверојатно бил генериран со помош на голем јазичен модел (LLM).

Особено интересно кај Gaslight е тоа што податоците како Bot Token, Chat ID (tg_room_id) и останатата конфигурација не се вградени директно во примерокот на малициозниот софтвер, туку се доставуваат за време на неговото извршување.

„Имплантот самостојно го прикрива својот Telegram Bot Token во сопствениот излез за време на извршувањето, со што го оневозможува неговото откривање дури и ако некој дојде до логови или извештаи за пад на програмата“, додава Стоукс.

Покрај тоа, малициозниот софтвер се обидува да избегне откривање од AI-базирани алатки така што вклучува Markdown блок со 38 измислени системски пораки, чија цел е да го натераат безбедносниот агент да ја прекине, скрати или одбие анализата.

„Овој шаблон содржи лажни системски пораки за истечени токени, прекини поради недостиг на меморија, недостиг на простор на дискот и повторени неуспешни операции. Исто така, вметнува лажни предупредувања за ранливости од инјекција и ознаки за статичка анализа“, наведува SentinelOne, опишувајќи го како „обид за злоупотреба на LLM-потпомогнатите системи за почетна анализа, кои сè почесто се користат во процесот на обратно инженерство (reverse engineering)“.

Извори:

• The Hacker News – New Gaslight macOS Malware Uses Prompt Injection to Disrupt AI-Assisted Analysis The Hacker News