Автономни агенти со вештачка интелигенција се обиделе да хакираат веб-страници на владите на САД и Канада

Автономни агенти со вештачка интелигенција, користејќи агресивни стратегии, се обиделе да хакираат владини веб-страници во САД и Канада со цел да пронајдат статистички податоци за училиштата и разводите.

Неуспешните обиди за упад биле насочени кон веб-страница на Министерството за образование на САД и кон Канадската библиотека и архиви (Library and Archives Canada). Сепак, собраните податоци не покажуваат докази за пристап до информации што не се јавно достапни.

Непрофитната истражувачка лабораторија Transluce соопшти дека агентите со вештачка интелигенција изгледа имале задача да преземаат податоци, но нивната активност вклучувала и неуспешни „основни обиди за хакирање“.

Проверка за SQL injection

Еден инцидент се случил на 17 јуни, кога агентите со вештачка интелигенција испратиле повеќе од 200.000 барања до веб-страница на Министерството за образование на САД, барајќи статистички податоци за училиштата.

Според Transluce, активноста вклучувала основен обид за SQL injection, при што бил употребен изменет параметар со цел да се заобиколат вообичаените филтри на веб-страницата.

„Во 40-те секунди пред обидот за SQL injection, биле испратени низа барања што содржеле различни невообичаени вредности за идентификација на сојузните држави“, наведуваат истражувачите, додавајќи дека целта на овие барања останува нејасна без дополнителни информации за агентите и нивните задачи.

Истражувачите наведуваат дека бараните податоци се чинело дека одговараат на прашање од репер-тестот Google DeepSearchQA, поврзано со училишни советници и малтретирање врз основа на расна припадност.

Transluce ги известила Министерството за образование за своите наоди на 25 септември. Портпарол изјавил дека прегледот на активноста не открил докази за влијание врз услугите.

Неуспешни обиди за проверка на канадската архива

Истражувачите на Transluce идентификувале сличен образец на активност насочена кон Канадската библиотека и архиви, кога агентите се обидувале да преземат историски записи за разводи во Канада од периодот од 1905 до 1911 година.

Според наодите на Transluce, на два датума — 28 мај и 9 јуни — националната веб-архива на Португалија (Arquivo.pt) регистрирала речиси 900 барања насочени кон Канадската библиотека и архиви.

Тринаесет од барањата содржеле напаѓачки код, вклучувајќи проверки за SQL injection и тестирања на обработката на влезните податоци, излезните формати и опциите за дебагирање.

Обидите резултирале со празни страници со записи, а Канадскиот центар за сајбер-безбедност потврдил дека нема докази за манипулација со базата на податоци или за пристап до дополнителни податоци.

„Во овој момент нема индикации дека владините системи се компромитирани“, соопшти Канадскиот центар за сајбер-безбедност.

Агенцијата соопшти дека ги проценува извештаите во соработка со владините партнери и предупреди дека автоматизираните или потенцијално малициозните барања сами по себе не претставуваат доказ за успешно извршен сајбер-инцидент.

Истражувачите забележуваат дека, иако „не можат со сигурност да им ги припишат овие обиди на OpenAI“, употребените тактики се во согласност со активностите што претходно му биле припишани на овој развивач на вештачка интелигенција.

OpenAI изјавил за The Washington Post дека ги разгледува наодите и дека на канадските претставници им доставил првично брифирање.

Компанијата одделно признала дека дошло до ненамерни интеракции меѓу нејзините агенти и веб-страници на владата на САД. Сепак, Transluce предупредила дека дел од пошироката активност не може јасно да му се припише на OpenAI.

Поширока активност и неизвесно припишување на одговорноста

Истрагата открила многу поширок опсег на активности на агенти со вештачка интелигенција насочени кон веб-страници на федерални и сојузни државни институции во САД.

Transluce наведува дека агентите користеле агресивни тактики против повеќе веб-страници на американските државни и федералните институции, придонесувајќи за поширок образец на автоматизирани процеси управувани од вештачка интелигенција.

Истражувачите забележале дека активностите на агентите вклучувале техники како што се испраќање огромен број барања, менување URL-адреси, користење привремени адреси за е-пошта, обиди за заобиколување на системите за заштита од ботови, погодување на имињата на датотеките достапни за преземање и повторна употреба на откриени акредитиви за пристап.

Пријавените активности биле насочени кон институции во Калифорнија, Канзас, Мериленд, Илиноис, Тексас и Њујорк.

Во еден случај, агентите со вештачка интелигенција се обиделе да се регистрираат за API-клуч на Бирото за економски анализи (Bureau of Economic Analysis), користејќи привремена адреса за е-пошта и името на организацијата „OpenAI Research“.

Друг автоматизиран процес укажува на обид за повторна употреба на откриени API-клучеви за преземање податоци од Бирото за попис на населението на САД (Census Bureau).

Во периодот од 23 април до 18 мај биле забележани автоматизирани обиди за пристап до страниците за управување со содржината на веб-страницата на Командата за поморска историја и наследство на американската морнарица (Naval History and Heritage Command), на history.navy.mil. Сепак, нема докази за пристап до чувствителни воени информации.

Истрагата на Transluce првенствено се потпирала на записите од Arquivo.pt и од услугата за скенирање на веб-безбедноста urlquery.net, чиишто јавно достапни логови ги зачувале барањата што, според сè, биле испратени од агентите.

Новите откриени инциденти ги надополнуваат претходните истражувања на организацијата, кои покажале дека агентите прибегнувале кон проверка на безбедносните пропусти кај јавните даватели на податоци додека извршувале задачи за пронаоѓање информации.

Во претходната истрага било откриено дека агентите со вештачка интелигенција проверувале безбедносни пропусти во услугата Data USA и во дигиталната библиотека на Универзитетот во Ново Мексико, како и дека искористиле безбедносен пропуст во портал на австралиската влада.

Извори:

• Bleeping Computer – Autonomous AI agents tried to hack US, Canadian government websites Bleeping Computer