Claude користен за автоматизирање на експлоатација и кражба на податоци од повеќе жртви

Anthropic предупреди дека сајбер-криминалците и хакерите спонзорирани од држави подеднакво ги користат нејзините модели Claude за сајбер-напади, дизајнирање оружје, пропаганда и масовен надзор во периодот од декември 2025 до август 2026 година.

Актерите на заканите, кои компанијата за вештачка интелигенција (AI) ги нарекува Generative Threat Groups (GTGs), опфаќаат групи спонзорирани од држави, финансиски мотивирани криминалци, комерцијални продавачи на шпионски софтвер, државни пропагандни институции и политички мотивирани поединци.

„Сајбер-безбедносните способности на AI моделите значат дека AI го елиминираше јазот во работната сила и алатките што порано ги раздвојуваше добро опремените операции спонзорирани од држави од поединечните оператори“, соопшти Anthropic. „Употребата на AI надмина едноставни прашања и одговори во чет-бот, туку вклучуваше употреба на мултиагентски рамки кои извршуваа извидување, експлоатација и ексфилтрација на податоци.“

Меѓу позначајните случаи што ги истакнува Anthropic е развојот на работен процес потпомогнат со AI од страна на руски актер на закана спонзориран од државата, кој компанијата го означува како GTG-20006. Тој покажува тактички и оперативни сличности со руската група за напредни перзистентни закани (APT), следена како Midnight Blizzard (позната и како APT29 и Cozy Bear).

Некои од другите сајбер-кампањи овозможени со AI, истакнати од Anthropic во нејзиниот извештај од 154 страници, вклучуваат:

• GTG-50014 (познат и како MeowSHA, frkoo и blazespider), оператор што зборува француски и за кој се сомнева дека е поврзан со колективот ShinyHunters. Групата управувала со дистрибуирана инфраструктура за собирање акредитиви преку мрежа од 10 AWS EC2 работници, кои масовно презеле 1,8 милиони различни Android APK-датотеки од повеќе извори на апликации. Потоа ги скенирале со алатката TruffleHog за пронаоѓање хардкодирани тајни, а потврдените наоди ги испраќале во група на Telegram.
• Друг партнер на ShinyHunters специјализиран за кражба преку синџирот на снабдување, кој компромитирал добавувачи на софтвер како услуга (SaaS) со цел да украде податоци што им припаѓаат на нивните крајни корисници, да го забрза извидувањето и да овозможи ексфилтрација на податоци.
• GTG-10007, оператор што зборува кинески и најверојатно е базиран во провинцијата Хунан. Некои негови членови се идентификувани како студенти на додипломски студии на кинески универзитет. Тие го користеле Claude за обиди за упад во продукциски системи, извидување на мрежи на странски влади на Блискиот Исток, во Европа и Југоисточна Азија, истражување на ранливости и развој на експлоати за големи производи за заштита на крајни уреди, како и за развој на платформа за собирање разузнавачки информации преку масовно преземање материјали од отворени извори, усогласени со приоритетите на Пекинг. Актерот на заканата таргетирал околу 50 организации ширум светот во секторите образование, малопродажба, енергетика, технологија, здравство, финансии, производство и влада. Групата исто така одржувала автономна програма за истражување на ранливости со цел создавање функционални експлоати за претходно непознати ранливости во мрежни и безбедносни уреди.
• GTG-50021, група што зборува руски и украински и управувала со измамничка операција за препродавање AI услуги, нудејќи евтин пристап до Claude. Наместо тоа, сообраќајот на корисниците тајно бил проследуван преку друг AI модел. Во рамките на незаконската шема бил инсталиран и систем за собирање акредитиви, кој ги крадел податоците за пристап до Anthropic сметките на корисниците и ги продавал на други препродавачи на прокси услуги за злонамерна употреба.
• GTG-50020, финансиски мотивиран актер што зборува руски. Историски бил насочен кон платформи за хотелски резервации и финансиско-технолошки платформи, но подоцна го насочил вниманието кон AI синџирот на снабдување, крадејќи API клучеви од даватели на модели и безуспешно обидувајќи се да добие пристап до AI модели пред нивното официјално објавување. Се проценува дека актерот таргетирал околу 30 AI добавувачи во период од четири дена, користејќи слични техники.
• GTG-50029, единствен актер што зборува француски и кој го користел Claude за таргетирање европски политички партии, медиуми, тинк-тенкови и SaaS добавувачи што ги користат овие организации. Меѓу другото, актерот искористил претходно недокументирана состојба на трка при повторна инсталација на WordPress, што овозможувала создавање лажна администраторска сметка без валидни акредитиви. Исто така, злоупотребил изложен search endpoint за да пробие во платформа за управување со политички кампањи и да извлече чувствителни податоци. Актерот на заканата исто така бил забележан како распоредува web shell-и и C2 рамка за експлоатација на прелистувачи против други цели. Централна компонента на операцијата била специјално изработена платформа за доксинг наречена „fafsearch“, која овозможувала вкрстено пребарување на податоци од индивидуални компромитирани бази со ексфилтрирани податоци.

„На едниот крај од спектарот, актерите го користеа Claude конверзациски: тој служеше како инженерски асистент при создавањето малициозен софтвер, фишинг-комплети и алатки за надзор“, соопшти Anthropic. „Понатаму по спектарот, актерите на закани го насочуваа Claude да извршува операции — како извршување команди врз мрежите на жртвите, собирање акредитиви и ексфилтрација на податоци — при што човекот ја носеше секоја поединечна одлука за таргетирање (GTG-20006).“

„На самиот крај од спектарот, операциите се извршувале автономно, со минимално човечко учество или надзор. Тука спаѓале мултиагентски рамки кои паралелно спроведувале извидување, експлоатација и кражба против повеќе жртви, во периоди од неколку часа или денови (GTG-50014, GTG-50020, GTG-50029).“

Компанијата за вештачка интелигенција соопшти дека идентификувала и прекинала голем број операции за влијание во кои Claude имал улога на „подуредник или креатор на содржина“, произведувајќи големи количества содржина и овозможувајќи нивно спроведување во размер што актерите со ограничени ресурси не би можеле самостојно да го постигнат. Сепак, Anthropic нагласи дека ниту една од овие активности не успеала да оствари автентичен ангажман со публиката и дека биле прекинати пред воопшто да успеат да изградат публика.

Некои од кластерите на операции за влијание и надзор што Anthropic ги идентификувала на високо ниво се:

• GTG-04001, актер што зборува руски и се наоѓа во Банги, кој спроведувал операција за странска манипулација и мешање во информативниот простор во Централноафриканската Република, со цел да ги засили ставовите „за Русија“ и „против Франција“.
• GTG-54002, комерцијална операција „влијание-како-услуга“ која го користела Claude за масовно производство и преработка на политичка содржина на околу 70 фиктивни новински веб-страници. Операцијата е поврзана со LKM Company, дигитална рекламна агенција со седиште во Франција.
• GTG-84005, една сметка што била користена за управување со комерцијална платформа за манипулација со избори, првенствено насочена кон корисници во Малезија врз основа на политички и социјални фактори, како што се расата и религијата. Платформата се претставувала како сервис за одбранбено сајбер-разузнавање и алатки за борба против дезинформации. Активноста покажала поврзаности со BBS Bilisim Teknolojileri, технолошка компанија со седиште во Истанбул.
• GTG-24015, група од четири сметки што го користеле Claude како „уредничко и новинарско продукциско биро“ за создавање содржина, која потоа била дистрибуирана преку државни медиуми како Sputnik Moldova, RIA Novosti, Sputnik en Español, Sputnik Africa и редакцијата на RT на англиски јазик.
• GTG-34001, група од три сметки поврзани со иранската држава, кои го користеле Claude за обликување на јавното мислење, претворање на официјални владини разузнавачки билтени во прилагодена содржина и нејзино ширење преку платформите на социјалните медиуми.
• GTG-54006, континуирана, автоматизирана мрежа за дезинформации која го користела Claude за генерирање лажни вести на бенгалски јазик во Бангладеш и за промовирање на политичката партија Awami League. Активноста е поврзана со еден актер од областа Гаибанда во Бангладеш, преку мрежа од 29 Claude сметки кои се ротирале со цел заобиколување на ограничувањата и механизмите за детекција на платформата.
• GTG-84006, дистрибуирана операција за влијание насочена кон иранската публика ширум светот, со цел претставување како вистински активисти и учество во политички разговори во реално време. Активноста е поврзана со People’s Mojahedin Organization of Iran (PMOI/MEK) и National Council of Resistance of Iran (NCRI).
• GTG-54004, сметка користена од еден актер за масовно производство на политичка содржина во Кенија, како дел од, според сомнежите, домашна astroturfing кампања со ставови во корист на владата.
• GTG-84002, сметка користена од еден актер за спроведување континуирана операција за влијание насочена против Муслиманското братство, конфликтот во Судан и механизмите на Обединетите нации за утврдување одговорност.
• GTG-54009, комерцијална платформа за надзор која го користела Claude за анализа, класификација и профилирање на активностите на корисниците на социјалните медиуми во Иран и регионот на Персискиот Залив. Се проценува дека активноста била спроведена од или во име на израелско-сингапурскиот комерцијален разузнавачки добавувач S2T Unlocking Cyberspace.
• GTG-14010, операција поврзана со Кина која го користела Claude за следење, профилирање и регрутирање Ујгури и ујгурски вооружени формации во Сирија. Утврдено е дека актерот го користел AI моделот за претворање на разговори масовно извлечени од повеќе од 100 следени WhatsApp групи и десетици Telegram канали во структурирани податоци на кинески јазик и за „создавање профили на лица кои би можеле да бидат ранливи на таргетирање поради финансиски тешкотии, разделеност од семејството и идеолошко разочарување“.
• GTG-14020, група сметки за кои се смета дека се поврзани со разузнавачка операција поврзана со кинеската влада, која го користела Claude за создавање досиеја на кинески јазик насочени кон верски лидери и припадници на кинеската дијаспора низ Азија, како и за мапирање верски објекти и инструкции кон моделот да го усвои „ставот на Кина“.
• GTG-14021, група сметки од актери со седиште во Кина кои го користеле Claude за поддршка на надзор и транснационална репресија, вклучително и преку барања моделот да ја преземе улогата на разузнавачки аналитичар кој работи за кинескиот национален безбедносен апарат.
• GTG-14022, операција со седиште во Кина за „следење на јавното мислење“ и надзор над дисиденти, која го користела Claude за создавање владини брифинзи во кои дисиденти, активисти, етнички малцинства, кинески дијаспорски заедници и странски медиуми биле наведувани како закана за политичката стабилност. Од моделот било побарано да ја преземе улогата на „виш аналитичар за итни случаи во областа на јавното мислење, кој работи за владата на Народна Република Кина“.
• GTG-34007, група од 16 сметки управувани од двајца актери поврзани со Иран, асоцирани со паравоени и домашни безбедносни агенции. Тие го користеле Claude за изградба на frontend за, како што изгледа, владино контролиран систем за управување со случаи поврзани со надзор, за анализа на социјалните мрежи врз основа на 155.216 објави на X и за изградба на способности за домашен надзор преку малициозна екстензија за Mozilla Firefox наречена „al-Najm al-thāqib“, со која се собирале идентитети на корисници од големи платформи на социјалните мрежи.
• GTG-50027, една сметка која го користела Claude за дизајнирање национална платформа за масовно пресретнување и надзор наречена Lakana 360, наменета за разузнавачката служба на Мали. Платформата требало да следи околу 25 милиони SIM-картички што ги опфаќаат трите национални мобилни оператори во земјата и да генерира разузнавачки досиеја за кој било телефонски број. Платформата има и одделен слој кој собира записи за повици, текстуални пораки и гласовни повици од мобилните мрежи.
• GTG-30004, актер поврзан со Иран кој го користел Claude за развој на автоматизирана услуга за профилирање идентитети врз основа на разузнавачки информации од отворени извори, насочена кон израелски и еврејски дијаспорски организации.
• GTG-30005, актер поврзан со Иран кој го користел Claude за собирање и анализа на јавно достапни податоци со цел развој на препораки за таргетирање на американските поморски сили во регионот и за изградба на софтверски компоненти на домашна платформа за масовен надзор, која комбинирала автоматско препознавање регистарски таблички со пресретнување идентификатори од мобилни уреди.
• GTG-30006, ирански актер кој користел бесплатни Claude.ai сметки за развој на малициозен софтвер, систем за негова дистрибуција и фишинг-портал насочен кон корисници во Иран. Ова вклучувало лажна страница за најавување на антивирусот ESET NOD32, која ги испраќала украдените акредитиви до Telegram, мамка во стилот на ClickFix преку Windows Run дијалогот и страници за испорака со географско ограничување. Актерот исто така го користел Claude за создавање на SECOMS64, модуларен Windows имплант со можности за снимање на притиснати тастери (keylogging), правење снимки од екранот и извлекување акредитиви зачувани во Chrome.

На други места, Anthropic соопшти дека ги неутрализирала обидите за злоупотреба на Claude од страна на актери од северен Јемен за развој на наведувано оружје, две операции со седиште во Кина за изработка на спецификација на кинески јазик за систем за управување со огнот против торпеда и за изградба на софтвер за таргетирање во електронско војување, како и операција со седиште во Русија за развој на целосен автономен рој камикази-дронови од типот first-person-view (FPV).

„Како што AI моделите стануваат сè пошироко користени, давателите на услуги ќе продолжат да стекнуваат увид во реалната употреба што е релевантна за заканите, а којашто ја немаат дури ни владите и меѓувладините организации“, соопшти компанијата. „Се надеваме дека споделувањето на овие рани сознанија со јавноста ќе им помогне на владите, индустријата и пошироката јавност подобро да ја разберат природата на овие ризици и заштитните мерки неопходни за безбедно користење на AI моделите.“

Извори:

• The Hacker News – Claude Used to Automate Exploitation and Data Theft Across Multiple Victims The Hacker News