Amazon откри кампања во која AI-агенти ги напаѓаат LiteLLM, Dify и други апликации во потрага по API-клучеви

AI-агенти контролирани од напаѓачи пребарувале по интернет изложени AI-апликации како LiteLLM, One API и Dify, барајќи слаби безбедносни точки преку кои би можеле да ги украдат клучевите на AI-провајдерите складирани во нив, според записите од активностите на самите агенти.

Записите, кои тимот за разузнавање за закани на Amazon ги собрал со помош на мамки-сервери (decoy servers), опишуваат како украдените клучеви биле користени за извршување на AI-моделите што потоа служеле за пребарување дополнителни клучеви.

Тимот оваа недела соопшти дека не може да ги потврди резултатите што ги пријавиле агентите. Со умерен степен на доверба проценува дека агентите работеле со ARTEX, алатка со отворен код за тестирање на безбедноста преку симулирани напади (penetration testing).

Записите содржат и план за напади (playbook) со познати влезни точки за секој од таргетираните производи. Во него се наведени стандардни администраторски акредитивни податоци, како стандардниот master key на LiteLLM, недовршени инсталации што надворешно лице би можело да ги преземе, како и познати ранливости во Langflow и RAGFlow.

Во одделен случај пријавен оваа недела, тимовите за одговор на инциденти на Cloudflare забележале дека ARTEX добил пристап до компромитиран API-токен кој се користел за CI/CD. Токенот немал ограничувања според IP-адреси ниту ограничување на бројот на барања (rate limiting), а активностите што следеле вклучувале 400 барања за преземање на содржината од базата на податоци (database dump) во период од еден час. Компанијата не откри дали со овие барања биле добиени какви било податоци.

Операторот му задава цел и задача на ARTEX, по што планерски AI-агент ја дели задачата на помали активности и им ги доделува на работните агенти кои извршуваат безбедносни алатки. За да го одредат секој следен чекор, агентите ги испраќаат резултатите од својата работа до голем јазичен модел (LLM).

Мамките-сервери, кои се дел од мрежата наречена MadPot, се претставувале како популарни LLM-услуги. Од 3 октомври до крајот на минатата недела, агентите испраќале барања до овие сервери кои често ја содржеле целосната историја на кампањата, вклучувајќи ги инструкциите од операторите и резултатите што ги пријавиле агентите.

Овие собрани записи од активностите на агентите ги опишуваат активностите извршени врз системи што MadPot не ги надгледува. „Amazon Threat Intelligence не ги набљудуваше тие активности додека се случуваа и не може да ги потврди резултатите што ги пријавиле агентите, но записите покажуваат што се обидувале да постигнат напаѓачите“, соопшти тимот.

Тимот со умерен степен на доверба проценил дека операторите биле одделни групи поврзани со Кина, повикувајќи се, меѓу другото, на инструкциите напишани на поедноставен кинески јазик и поставките за временска зона во Кина.

Во главната кампања, агентите пребарувале AI-апликации изложени на интернет, ги извлекувале клучевите на провајдерите складирани во нив, проверувале дали клучевите се функционални и ги додавале во заеднички фонд. Особено се фокусирале на апликации што чуваат клучеви за повеќе провајдери, бидејќи една слабо заштитена администраторска страница во таков систем може да открие пристап до голем број сметки.

Меѓу таргетите наведени во записите се LLM-портали и прокси-системи како One API, New API, Veloera, Sub2API и LiteLLM, како и платформи за создавање AI-апликации како Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat и Ollama.

Планот за напад опфаќа и крајни точки за управување и поставки на провајдерите до кои може да се пристапи без најава, заобиколување на автентикацијата преку заглавието isCliRequest кај системите од семејството One API, како и фалсификување барања од серверска страна (SSRF) преку функционалности за преземање URL-адреси, со цел пристап до cloud-метаподатоци.

Други техники вклучувале пребарување тајни податоци оставени во JavaScript-кодот на клиентската страна, source maps, debug-рути и конфигурациски датотеки со променливи на околината (environment files).

Кога агентите откривале cloud-акредитивни податоци, ги таргетирале управуваните услуги што хостираат AI-модели, складиштата за тајни податоци и идентитетите на апликациите, давајќи им предност на премиум AI-моделите пред општиот пристап до cloud-инфраструктурата.

За пронаоѓање протечени клучеви, агентите користеле интернет-сервиси за скенирање и логови за транспарентност на дигитални сертификати (Certificate Transparency). Исто така, пребарувале GitHub-складишта и архиви на настани, npm и PyPI пакети, слоеви на контејнерски слики, notebook-документи, платформи за хостирање модели, веб-страници за објавување текстуални содржини и Telegram-канали.

Записите опфаќаат стотици цели низ AI-платформи и други системи. Тимот ги известил клиентите на AWS кои можеби биле засегнати.

Минатата недела, Microsoft објави дека напаѓачите користеле алатки за агентска вештачка интелигенција, како ARTEX, за пребарување тајни податоци на GitHub, барајќи изложени акредитивни податоци, меѓу кои и API-клучеви за извршување AI-модели (AI inference).

На 26 август, компанијата опиша претходен напад врз RAGFlow, при кој скриена hook-функција ги пресретнувала клучевите на AI-провајдерите додека корисниците ги внесувале, како и компромитирање на LiteLLM gateway преку кое биле изложени клучевите на провајдерите.

Во својата анализа на случајот со RAGFlow, Microsoft имал низок степен на доверба во однос на тоа која ранливост, доколку воопшто постоела, им овозможила на напаѓачите да извршуваат код. Компанијата не ги поврзала тие напади со ARTEX.

Записите од мамките-сервери опишуваат и втора кампања во која агентите се обидувале да ги заобиколат проверките на идентитетот кај две криптовалутни берзи, користејќи deepfake-содржини.

Серверот на еден давател на услуги за проверка на идентитет го одбивал видеото со deepfake во живо при секој обид на агентите да го снимат. Тимот не соопшти дали фалсификуваните фотографии од документи за идентификација, кои агентите исто така ги создале, успеале да ги поминат проверките на документите.

Во изминатите осум недели, тимовите за одговор на инциденти на Cloudflare биле вклучени во повеќе истраги поврзани со ARTEX и алатки изградени врз негова основа.

Во повеќе од еден инцидент, напаѓач добил пристап до cloud-околината на клиент кај голем давател на cloud-услуги, а потоа директно преминал во сметката на клиентот на Cloudflare. Според компанијата, заедничката причина биле статични CI/CD-токени кои никогаш не истекувале и овозможувале широк пристап низ cloud-инфраструктурата на клиентите.

Во случајот со ARTEX, компромитираниот токен бил API-токен на ниво на сметка. Според наодите од истрагата на компанијата, компромитирањето најверојатно се случило преку надворешен cloud-провајдер. Не е откриено како токенот првично бил украден.

Во сметката се појавиле нови Worker-скрипти со имиња како artex-, artex-pgrecon-, artex-pgw-* и artex-do-*, при што секое име одговарало на различна задача.

Активноста достигнувала повеќе од 69 барања во минута низ неколку делови од сметката. Таа вклучувала обиди за воспоставување постојан пристап (persistence) и проверка на токени за сесии на други апликации од трети страни.

Компанијата верува дека голем дел од овие активности биле делумно насочувани од човечки оператор. Не е откриено дали некој од обидите за воспоставување постојан пристап бил успешен.

Во текот на три дена оваа недела, повеќе од 50 фамилии на рамки за тестирање на безбедноста со AI се обиделе да ги скенираат клиентите на компанијата, а бројот на IP-адреси од кои се забележани вакви рамки сега се брои во илјадници.

ФБИ оваа недела соопшти во безбедносно предупредување FLASH дека различни напаѓачи користат ARTEX најмалку од август за напади врз организации од различни сектори ширум светот. Предупредувањето сумира 11 претходни извештаи и не опишува нов безбедносен инцидент.

Развивачот на ARTEX го направил своето GitHub-складиште недостапно на 8 октомври, по извештаите за злоупотреба на алатката. Сепак, таа и понатаму е достапна преку форкови создадени од заедницата, архивирани копии и комерцијалната верзија наречена ARTEX PRO.

Примерите наведени во предупредувањето вклучуваат претходна кампања насочена кон јужнокорејски финансиски институции, при која биле украдени лични податоци на околу 67.000 лица, како и компромитирањето на ConnectWise.

Што треба да проверат безбедносните тимови

„Ниту една од техниките во овие кампањи не беше нова. Она што AI-агентите го менуваат е брзината и упорноста на напаѓачите“, соопшти тимот за разузнавање за закани на Amazon.

Агентите биле успешни таму каде што недостасувала основна безбедносна заштита, вклучително и стандардни или хардкодирани акредитивни податоци, клучеви оставени во кодот и јавни датотеки, интерфејси и крајни точки за извршување AI-модели без автентикација, како и незакрпен софтвер.

Тимот препорачува AI-апликациите, gateway-системите за модели и крајните точки за извршување AI-модели да се третираат како и останатите продукциски системи, да се претпостави дека изложените тајни податоци ќе бидат пронајдени за кратко време и да се следи нивната можна злоупотреба преку неочекувани трошоци или невообичаена употреба.

Следува статусот на ранливостите наведени во планот за напад:

ПроизводРанливостСтатус
LangflowCVE-2025-3248 – недостиг на автентикација што му овозможува на далечински напаѓач да извршува код.Засегнати се верзиите постари од 1.3.0, додека верзијата 1.3.0 е верзијата во која е отстранета ранливоста (белешки за објавата). На 5 мај 2025 година, CISA ја додаде ранливоста во својот каталог на познати експлоатирани ранливости (KEV), по претходните напади врз Langflow. Записот во каталогот KEV ја означува како ранливост за која е познато дека се користи во ransomware-кампањи.
RAGFlowCVE-2026-28797 – вметнување шаблони од серверска страна (SSTI), што му овозможува на секој најавен корисник да извршува команди на оперативниот систем на серверот. За нападот е потребна регистрирана сметка, а саморегистрацијата стандардно е овозможена, се наведува во безбедносното известување.Според NVD, засегнати се верзијата 0.24.0 и сите претходни верзии. Во безбедносното известување не е наведена верзија во која е отстранета ранливоста. Сепак, верзијата 0.25.0, објавена на 21 април, ги извршува шаблоните во изолирана околина (sandbox), како што е препорачано во безбедносното известување, според белешките за поправката на SSTI-ранливоста.
One API (семејство на производи)Заобиколување на автентикацијата преку заглавието isCliRequest.Во извештајот на тимот не се наведени засегнатите верзии ниту информација за достапна безбедносна поправка.

Други проверки и безбедносни мерки што се однесуваат на овие напади:

  • Променете ги стандардните администраторски акредитивни податоци, како што е стандардниот главен клуч (master key) на LiteLLM, и не оставајте нова инсталација недовршена, со што би можеле да ја преземат неовластени лица.
  • Проверете ги конфигурациските датотеки, променливите на опкружувањето, скриптите за распоредување, CI/CD-процесите и базите на податоци за вградени тајни податоци. Продолжете редовно да ги скенирате складиштата со код и контејнерските слики за изложени тајни податоци, а компромитираните акредитивни податоци брзо заменете ги, како што советува ФБИ.
  • Поставете датум на истекување на Cloudflare API-токените и ограничете ги IP-адресите на клиентите од кои тие можат да се користат. И двете опции се достапни како дополнителни поставки за ограничување на токените. Новите токени имаат префикс cfut_, кој алатките за откривање тајни податоци можат да го препознаат.
  • Проверете дали постојат скрипти за Cloudflare Workers со имиња artex-*, artex-pgrecon-*, artex-pgw-* или artex-do-*.
  • Проверете ги логовите за 11-те IP-адреси објавени во рамките на наодите од истражувањето со лажни системи (decoy findings), како и за повеќе од 2.500 адреси што истражувачите на Cisco Talos ги поврзуваат со ARTEX и ги објавиле во своите датотеки со индикатори за компромитација.
  • Истражувачите објавија и правила за откривање на ARTEX: Snort 3 правила 7:76, 7:77 и 7:78, како и Snort 2 правила 1:67494, 1:67495 и 1:67496. Правилата 7:78 и 1:67496 стандардно се оневозможени и откриваат траги од norma – агентската рамка (agent harness) што ја користи ARTEX.

Извори:

  • The Hacker News – Amazon Uncovers AI Agent Campaign Targeting LiteLLM, Dify, and Other Apps for API Keys The Hacker News
Преглед на приватноста
MKD-CIRT – Национален центар за одговор на компјутерски инциденти

Оваа веб-страница користи колачиња за да ви обезбеди најдобро можно корисничко искуство. Информациите за колачињата се складираат во вашиот прелистувач и извршуваат функции како препознавање кога се враќате на нашата веб-страница и им помагаат на нашите програмери да разберат кои делови од веб-страницата ви се најинтересни и најкорисни.

Строго неопходни колачиња

Строго неопходните колачиња треба да бидат овозможени во секое време за да можеме да ги зачуваме вашите поставки за колачиња.