
Російськомовні хакери створили систему ШІ-агентів, яка самостійно знаходила вразливості програмного забезпечення та розробляла способи їх використання для атак. За оцінкою Google, це може бути перший випадок повної автоматизації такого процесу без участі людини.
Про це пише POLITICO із посиланням на підрозділ Google з аналізу кіберзагроз. Цілями зловмисників стали французькі сайти у сферах медіа, розваг та освіти.
Система безперервно порівнювала програмний код до й після встановлення виправлень. На основі відмінностей ШІ-агенти виявляли слабкі місця та автоматично створювали засоби для їх експлуатації. Людина не мала скеровувати кожен крок або виправляти помилки під час цього процесу.
Google визначила зловмисників як російськомовних за мовою знайденої технічної документації. У матеріалі не йдеться про встановлене громадянство хакерів чи їхній зв’язок із російською державою.
Досі навіть найсучасніші моделі ШІ зазвичай потребували супроводу досвідчених хакерів. Вони допомагали пришвидшувати атаки й точніше обирати цілі, але не виконували весь процес самостійно. Виявлена Google операція, зазначає видання, може означати перехід до нового рівня автоматизації кіберзагроз.
Занепокоєння щодо такого використання ШІ посилилося після квітневого випуску спеціалізованої моделі Mythos компанією Anthropic. Улітку також стався автономний злам платформи Hugging Face агентом OpenAI. Однак, на відміну від описаної Google кампанії, той інцидент, за наявними даними, не мав ознак навмисної атаки на конкретні цілі.

