Инструменты искусственного интеллекта все активнее используются киберпреступниками. Прежде всего это касается больших языковых моделей, не имеющих ограничений на выполнение заведомо вредоносных запросов. Такие ограничения могут быть либо не предусмотрены безответственными разработчиками, либо преодолены искусными хакерами, но результат в любом случае одинаков - в руках злоумышленников оказывается чрезвычайно мощное оружие.

Исследователи компании Palo Alto Networks протестировали возможности двух больших языковых моделей особенно популярных в последнее время у хакеров - WormGPT 4 и KawaiiGPT. Модель WormGPT появилась еще в 2023, но в том же году разработчики заявили о прекращении поддержки проекта. WormGPT 4 - это «реинкарнация» бренда, появившаяся в сентябре нынешнего года. Она описывается как вариант ChatGPT без каких-либо ограничений, специально адаптированный под нужды хакеров. Доступ к модели распространяется по подписке - 50 долларов в месяц или 220 долларов без ограничений по срок использования.

Специалисты Palo Alto Networks в порядке эксперимента предложили WormGPT 4 создать код для зашифровки всех PDF-файлов на устройстве под управлением ОС Windows. Модели не составило труда сгенерировать скрипт PowerShell с возможностью настройки по расширению файлов и их зашифровке с использованием алгоритма AES-256. Исследователи также высоко оценили возможности WormGPT 4 по созданию фишинговых сообщений и требований о выплате выкупа.

Модель KawaiiGPT является бесплатной и поддерживается сообществом анонимных разработчиков. Ее возможности пока более скромны: создать с ее помощью полнофункциональный вредоносный код для зашифровки данных экспертам не удалось. Однако они отмечают, что инструмент может быть полезен хакерам для осуществления атак с повышением уровня привилегий, похищения данных и загрузки на устройства жертв дополнительного вредоносного ПО. Кроме того, KawaiiGPT также прекрасно справляется с составлением фишинговых сообщений.

Обе модели имеют уже многие сотни подписчиков, которые обмениваются опытом и делятся советами в телеграм-каналах. Главная опасность, по мнению специалистов Palo Alto Networks, состоит в том, что такие инструменты делают хакерские атаки доступными даже для начинающих киберпреступников, не обладающих сколько-нибудь серьезными техническими знаниями.