Пока мир восхищается возможностями ChatGPT и Claude — в глубинном интернете появилась новая «звезда» — DIG AI. Но в отличие от общедоступных языковых моделей и ИИ-Агентов — у этого ассистента нет ни цензуры, ни запретных тем. Аналитики Resecurity опубликовали пугающий отчет о том, как DIG AI становится универсальным инструментом для хакеров, мошенников и разного рода злоумышленников.
DIG AI — что это такое?
DIG AI — это специализированный ИИ-помощник (ИИ-Агент), развернутый в сети TOR. По заявлению создателя, вычислительные мощности контролируются непосредственно им, и не относятся к облачным инфраструктуре коммерческих сервисов, что косвенно подтверждается значительным временем генерации ответов на запросы.
Главная особенность модели — полное отсутствие цензуры и ограничений со стороны создателей (как это реализовано в общедоступных агентах). Если обычный ИИ откажется писать код для вируса или давать инструкции по изготовлению нелегальных устройство, ссылаясь на политику безопасности, то для DIG AI — запреты отсутствуют.
Почему это опасно? (Ключевые инсайты из отчета)
- Доступность решений. Теперь, чтобы создать бэкдор или вредоносный скрипт — не нужно быть разрабом относительного высокого класса. DIG AI создаст вредонос по промту, при этом, как заметили эксперты, в подавляющем количество случаев — код рабочий.
- Новое поколение фишинг-инструментов для атак. Подобные боты обучены на сотнях тысяч экземпляров фишинговых писем и прочего вредоносного контента, и соответственно могут создавать его — при этом, делая контент более релеватным для атак на конкретную цель. Дипфейки также можно отнести в этот пункт.
- В помощь не только хакерам — исследователи подтвердили, бот охотно выдает инструкции по производству запрещенных веществ и самодельных взрывных устройств.
Вычислительная Инфраструктура модели
По заявлением создателя — в отличие от появившихся ранее аналогичных инструментов (вроде WormGPT), инженеры DIG AI пошли по другому пути. Модель используют абузоустойчивую (расположена в сети TOR) кастомную инфраструктуру, что делает сервис устойчивым к блокировкам со стороны правоохранительных органов.
Что все это может это значить?
Появление DIG AI означает некое начало новой эры — применения искусственного интеллекта в незаконных целях. Безопасникам пора готовиться к тому, что атаки станут:
- Более автоматизированными (ИИ способен находить уязвимости и принимать решения об экплуатации);
- Более изощренными — прием соц. инженерии будут автоматизированы и персонализированы без большого внимания со стороны участников атаки;