Над 260.000 Chrome корисници измамени со лажни AI екстензии

Chrome Web Store е преплавен со десетици злонамерни екстензии за прелистувачот кои тврдат дека нудат AI асистент функционалност, но тајно собираат лични податоци од жртвите.

Истражувачите од LayerX идентификувале 30 екстензии за Google Chrome кои практично се копии една на друга, со минимални разлики во брендирањето. Многу од нив се доста популарни, со десетици илјади преземања поединечно.

Сите тие се претставуваат како AI асистенти – и навидум функционираат убедливо – но во позадина:

• 📧 крадат содржина од е-пошта
• 🌐 собираат содржина од прелистувачот
• 🔐 прибираат чувствителни податоци што корисниците самите ги внесуваат

„Иако сме виделе слични тактики кај злонамерни екстензии и во минатото, ново и загрижувачко е начинот на кој сега се применуваат,“ изјави безбедносниот истражувач Натали Заргаров од LayerX.

„Наместо да имитираат банки или страници за најава на е-пошта, напаѓачите сега имитираат интерфејси за вештачка интелигенција и алатки за програмери – места каде што корисниците се навикнати без двоумење да внесуваат API клучеви, токени и други чувствителни податоци.“

Овој тренд покажува дека напаѓачите ја искористуваат зголемената доверба во AI алатките, претворајќи ги во нова примамлива цел за кражба на податоци.

Злонамерни Chrome екстензии имитираат AI асистенти

Колку Chrome корисници навистина внимателно ќе проверат дали AI апликацијата што ја користат е развиена од легитимна, првична компанија?

Некои од апликациите што ги откри Заргаров на Chrome Web Store имитираат познати chatbot апликации, но други дури и немаат потреба од тоа. „Наместо отворена имитација, овие апликации користат асоцијација со бренд. Тие ја искористуваат запознаеноста на корисниците со добро познати имиња на модели и перцепцијата дека ‘AI assistant’ подразбира поврзаност со големи провајдери,“ вели таа, додавајќи дека „делува веродостојно, особено кога се дистрибуира преку официјалниот Chrome Web Store.“

Кога жртвата ќе преземе една од овие екстензии, целото корисничко искуство може да изгледа сосема нормално. Екстензијата се додава во лентата со алатки, а кога ќе се кликне, се отвора токму таков chat интерфејс каков што корисникот очекува. Ако внесе prompt, ќе добие убедлив AI-генериран одговор.

Но, она што навистина се случува е многу поинтересно. Chat интерфејсот е full-screen iframe што упатува кон домен контролиран од напаѓачот, наметнат врз тековната страница во прелистувачот на жртвата. Кога жртвата ќе испрати prompt, тој се филтрира преку серверот на напаѓачот. Серверот може да проследи барање до вистински API на голем јазичен модел (LLM) и да врати веродостоен одговор до жртвата.

Во меѓувреме, серверот на напаѓачот ги собира чувствителните информации што жртвата ги внесува. „Опасноста произлегува од тоа колку нормализирана стана употребата на AI. Луѓето рутински внесуваат високо чувствителни информации во AI алатки со минимална претпазливост,“ вели Заргаров.

Замислете, на пример, вработен кој инсталира една од овие злонамерни екстензии. „Вработениот отвора CRM систем што содржи имиња на клиенти, контакт податоци и историја на трансакции. Кликнува ‘Summarize.’ Во позадина: Екстензијата ја чита содржината на страницата, таа содржина се испраќа до сервери контролирани од напаѓачот, се враќа резиме, а целосниот сет на податоци може да биде задржан оддалечено. Вработениот гледа безопасно резиме. Во меѓувреме: Податоците за клиенти може да се складираат надвор од корпоративна контрола, трговски тајни може да бидат ексфилтрирани или регулирани податоци може да ги напуштат усогласените системи.“

Ризиците од губење интелектуална сопственост, регулаторни прекршувања и последователни сајбер-напади од тука стануваат очигледни.

Злоупотреба на Chrome Web Store

Може да се очекува дека сомнителни, површно брендирани апликации ќе бидат занемарени на онлајн маркетите, но некои од овие добиле вистинска популарност. Лажни алатки како „Gemini AI Sidebar“, „ChatGPT Translate“, како и поопштите имиња „AI Sidebar“, „AI Assistant“ и „AI GPT“ имаат десетици илјади преземања секоја. Вкупно, 30 вакви екстензии собрале повеќе од 260.000 преземања.

Многу од овие апликации – како ChatGPT Translate, AI Sidebar и AI Assistant – остануваат достапни за корисниците на Chrome и повеќе од 24 часа по објавата на блогот на LayerX. Сите имаат бројни рецензии, со просечна оцена од над четири ѕвезди, а некои дури биле означени како „Featured“ од Chrome Web Store, што им дава дополнителен легитимитет.

Заргаров сепак покажува одредено разбирање за Google. „Кај многу од овие екстензии вистинската ‘логика’ се наоѓа во оддалечена веб-апликација што се вчитува преку iframe,“ објаснува таа. „Злонамерното или инвазивно однесување се случува надвор од самата платформа, а екстензијата може да бара минимални дозволи. Тоа значи дека може да изгледа усогласена при ревизија, со чисти метаподатоци, ограничен локален код и без очигледни црвени знаменца при статичка анализа.“

„Ако Google не врши длабинска анализа на мрежните endpoint-и, споделените TLS сертификати, повторно користените хостинг провајдери и идентичните JavaScript пакети што се вчитуваат оддалечено,“ додава таа, „тогаш поврзаните екстензии можат да ја избегнат детекцијата. Не можам да зборувам за внатрешните механизми за ревизија на Google, но однадвор, ваква кампања сугерира дека корелацијата меѓу екстензии е ограничена или не е приоритет.“

Извори:

• DarkReading – 260K+ Chrome Users Duped by Fake AI Browser Extensions DarkReading