Российский злоумышленник, известный под ником "bandcampro", использовал инструмент командной строки с открытым исходным кодом Gemini CLI от Google в качестве хакерского агента и для управления небольшим ботнетом.
Искусственный интеллект реагировал на подсказки злоумышленника, устраняя неполадки на ходу и даже предлагая улучшения в работе системы как минимум 59 раз.
В ходе более чем 200 сессий в период с 19 мая по 21 апреля злоумышленник использовал инструмент искусственного интеллекта для развертывания и управления инфраструктурой, которая контролировала восемь систем в стоматологической клинике, а также для получения доступа к базе данных OpenDental.
Искусственный интеллект взял на себя роль «авторизованного специалиста по тестированию на проникновение», действуя без каких-либо предупреждений о безопасности, и автоматически сохранил все учетные данные.
В его файле навыков содержался план действий по управлению и контролю (C2), включающий описание архитектуры, стандартных операций, кода заражения, команд для обеспечения устойчивости и шагов по устранению неполадок.
Искусственный интеллект управляет ботнетом
Исследователи Trend Micro утверждают, что злоумышленник использовал Gemini CLI для миграции ботнета на новую инфраструктуру управления и контроля (C2). Начав с одной инструкции: «Изучите миграцию C2», — ИИ обработал руководство и подготовил все необходимые шаги и код для этого процесса.
Искусственный интеллект перенёс инфраструктуру управления и контроля, обработав архитектуру, код, развёртывание VPS, настройку Cloudflare и первоначальную отладку всего за шесть минут.
«Искусственный интеллект изучил руководство по миграции, затем подготовил пакет миграции — небольшой архив серверного кода, полезных нагрузок и файла навыков. После этого он распаковал пакет, запустил сервер управления и контроля на VPS и создал туннель Cloudflare», — Для просмотра ссылки Войди
Когда изначально машинам не удавалось переподключиться, ИИ диагностировал конфликт трафика между старым и новым серверами, и после того, как злоумышленник отключил старый сервер, все боты переподключились.
Журнал, показывающий обмен сообщениями с Gemini
Источник: Trend Micro
Ежедневные журналы операций показывают, что злоумышленник продолжал управлять ботнетом исключительно с помощью запросов на естественном языке, спрашивая, какие машины находятся в сети, перечисляя файлы на конкретных компьютерах и генерируя ссылки для заражения.
Оперативный обзор
Источник: Trend Micro
С технической точки зрения, конфигурация ботнета оказалась на удивление лёгкой, содержа все компоненты и инструкции в трёх текстовых файлах общим размером примерно 5 КБ.
В них содержались приглашение для джейлбрейка Gemini, руководство по управлению и контролю (C2 playbook), охватывающее заражение, обеспечение устойчивости и устранение неполадок, а также руководство по миграции для восстановления инфраструктуры.
В качестве сервера управления и контроля использовался HTTP-сервер на Python, работающий в оперативной памяти, и агенты PowerShell, которые опрашивали его каждые пять секунд, а обеспечение постоянного присутствия осуществлялось за счет запланированных задач, событий WMI и изменений в реестре в зависимости от привилегий.
По данным Trend Micro, сама вредоносная программа была довольно примитивной, поскольку не использовала механизмы обфускации, упаковки или обхода защиты.
Помимо ботнета, злоумышленник, предположительно, использовал ИИ для подбора паролей, генерируя правдоподобные варианты существующих паролей для порталов WordPress и анализируя дампы 1Password для поиска путей эксплуатации уязвимостей.
Исследователи утверждают, что последняя попытка провалилась лишь из-за того, что операция затянулась настолько, что ИИ потерял из виду общую концепцию атаки.
Извлеченные журналы показывают, что Gemini отказалась выполнить как минимум одно задание, когда ее попросили создать самораспространяющуюся «агентную бомбу», но это лишь заставило злоумышленника попробовать выполнить другие задачи.
Издание BleepingComputer обратилось в Google за комментарием по поводу этого примера злоупотребления интерфейсом командной строки Gemini, но на момент публикации ответа не получило.
Для просмотра ссылки Войди