Киберпреступники используют искусственный интеллект в новой эре вредоносного ПО - Help Net Security.

Согласно отчету Group-IB о тенденциях в киберпреступности 2023/2024 гг., альянс между группами вымогателей и представителями начального доступа (IABs) по-прежнему остается мощным двигателем киберпреступной индустрии.

Количество компаний, у которых данные были загружены на специализированные сайты с утечкой информации (DLS), увеличилось на 74% по сравнению с прошлым годом.

Глобальные угрозы также проявили повышенный интерес к платформам Apple, что проиллюстрировано пятикратным ростом подпольных продаж, связанных с кражей информации на macOS.

Растущий интерес групп спонсируемых государством, также известных как группы передовых угроз (APT), показал, что ни один регион не защищен от киберугроз.

Эксперты Group-IB обнаружили 70% увеличение числа публичных публикаций, предлагающих эксплойты нулевого дня для продажи, а также определили злонамеренное использование киберпреступниками законных сервисов и технологий, основанных на искусственном интеллекте (AI), как основные киберриски на 2024 год.

Отчет о тенденциях в киберпреступности 2023/2024 гг.

В нем подробно описывается, как киберпреступники используют эту новую технологию, включая неправомерное использование больших моделей языка (LLM), таких как ChatGPT, а также потенциальные угрозы для корпоративных данных при интеграции AI.

Угрозы со стороны ChatGPT Угрозы уже продемонстрировали, как AI может помочь им разрабатывать вредоносное ПО, даже имея ограниченные знания языков программирования, создавать новые ТТП и составлять убедительный текст для использования в атаках социальной инженерии, а также повышать операционную производительность.

Большие языковые модели, такие как ChatGPT, остаются широко используемыми, и аналитики Group-IB заметили постоянный интерес на подпольных форумах к взлому ChatGPT и разработке специализированных generative pre-trained transformer (GPT), ища пути обхода контроля безопасности ChatGPT.

Эксперты Group-IB также отметили, что с мид-2023 года было разработано четыре инструмента, основанных на ChatGPT, предназначенных для помощи киберпреступной деятельности: WolfGPT, DarkBARD, FraudGPT и WormGPT - каждый со своими функциональными возможностями.

FraudGPT и WormGPT являются наиболее обсуждаемыми инструментами на подпольных форумах и каналах Telegram, ориентированными на социальную инженерию и фишинг.

Однако инструменты, такие как WolfGPT, ориентированные на код или эксплоиты, менее популярны из-за сложностей обучения и проблем с использованием.

Тем не менее, их развитие представляет риски для сложных атак.