Microsoft: Хакерите користат вештачка интелигенција во секоја фаза од сајбер нападите

Microsoft вели дека актери на закани сè повеќе користат вештачка интелигенција во своите операции за да ги забрзаат нападите, да ја зголемат скалата на злонамерните активности и да ги намалат техничките бариери во сите аспекти на еден сајбер напад.

Според нов извештај на Microsoft Threat Intelligence, напаѓачите користат генеративни AI алатки за широк спектар задачи, вклучувајќи извидување, phishing, развој на инфраструктура, креирање malware и активности по компромитирање на системите.

Во многу случаи, AI се користи за пишување phishing пораки, преведување содржина, сумирање украдени податоци, дебагирање malware и помош при пишување скрипти или конфигурација на инфраструктура.

„Microsoft Threat Intelligence забележа дека најголемиот дел од злонамерната употреба на AI денес се фокусира на користење јазични модели за создавање текст, код или медиуми. Актерите на закани користат генеративна AI за пишување phishing мамки, преведување содржина, сумирање украдени податоци, генерирање или дебагирање malware и креирање скрипти или инфраструктура,“ предупредува Microsoft.

„За овие намени, AI функционира како засилувач на силата (force multiplier) кој го намалува техничкото триење и ја забрзува изведбата, додека човечките оператори и понатаму ја задржуваат контролата врз целите, таргетирањето и одлуките за распоредување на нападите.“

AI се користи за извршување на сајбер напади

Microsoft забележа повеќе групи на закани кои вклучуваат вештачка интелигенција во своите сајбер напади, вклучувајќи севернокорејски актери следени како Jasper Sleet и Coral Sleet, кои ја користат технологијата како дел од шеми за далечински IT работници.

Во овие операции, AI алатките помагаат да се генерираат реалистични идентитети, биографии (CV) и комуникации, со цел да се добие вработување во западни компании и да се задржи пристапот откако ќе бидат вработени.

Jasper Sleet leverages generative AI platforms to streamline the development of fraudulent digital personas. For example, Jasper Sleet actors have prompted AI platforms to generate culturally appropriate name lists and email address formats to match specific identity profiles. For example, threat actors might use the following types of prompts to leverage AI in this scenario:

Example prompt 1: “Create a list of 100 Greek names.”

Example prompt 2: “Create a list of email address formats using the name Jane Doe.“

Jasper Sleet also uses generative AI to review job postings for software development and IT-related roles on professional platforms, prompting the tools to extract and summarize required skills. These outputs are then used to tailor fake identities to specific roles.❖ Microsoft Threat Intelligence

Извештајот исто така опишува како AI се користи за помош при развој на malware и креирање инфраструктура, при што актери на закани користат AI алатки за програмирање за генерирање и подобрување на малициозен код, решавање на грешки или пренесување на malware компоненти во различни програмски јазици.

Некои експерименти со malware покажуваат знаци на AI-овозможен malware кој динамично генерира скрипти или го менува своето однесување за време на извршувањето.

Microsoft исто така забележал дека Coral Sleet користи AI за брзо генерирање лажни веб-страници на компании, поставување инфраструктура и тестирање и решавање проблеми во нивните поставувања.

Кога безбедносните механизми на AI се обидуваат да спречат ваква употреба, Microsoft вели дека актерите на закани користат jailbreaking техники за да ги измамат LLM моделите да генерираат малициозен код или содржина.

Покрај употребата на генеративен AI, истражувачите на Microsoft почнале да забележуваат дека актерите на закани експериментираат со agentic AI за автономно извршување задачи и адаптација на резултатите.

Сепак, Microsoft вели дека моментално AI најчесто се користи за донесување одлуки, а не за целосно автономни напади.

Бидејќи многу кампањи со лажни IT работници се потпираат на злоупотреба на легитимен пристап, Microsoft им советува на организациите ваквите шеми и слични активности да ги третираат како инсајдерски ризик.

Дополнително, бидејќи овие AI-управувани напади наликуваат на класични сајбер напади, бранителите треба да се фокусираат на откривање на необична употреба на креденцијали, зајакнување на системите за идентитет против phishing и заштита на AI системите кои може да станат цел на идни напади.

Microsoft не е единствен што забележува дека актерите на закани сè повеќе користат вештачка интелигенција за напади и за намалување на бариерите за влез.

Google неодамна објави дека актерите на закани ја злоупотребуваат Gemini во сите фази на сајбер нападите, што се поклопува со она што Amazon го забележал во оваа кампања.

Amazon и безбедносниот блог Cyber and Ramen исто така неодамна известија за актер на закани кој користел повеќе генеративни AI сервиси како дел од кампања што компромитирала повеќе од 600 FortiGate firewall уреди.

Извори:

• Bleeping Computer – Microsoft: Hackers abusing AI at every stage of cyberattacks Bleeping Computer