Мошенники используют ИИ-бота Grok для обхода защиты социальной сети X

Исследователь кибербезопасности из Guardio Labs Нати Таль обнаружил новую схему мошенничества в социальной сети X, получившую название «Grokking». Злоумышленники научились использовать чат-бот Grok для публикации запрещенных ссылок, обходя системы безопасности платформы.

Механизм атаки основан на манипуляции с метаданными видеорекламы. Мошенники размещают привлекательные видеообъявления, часто с контентом для взрослых, и скрывают вредоносные URL в поле метаданных «From:», которое, по всей видимости, не проверяется системами модерации X. Затем они публикуют комментарий к собственной рекламе, запрашивая у Grok информацию об источнике видео. Чат-бот анализирует скрытое поле и выдает полностью кликабельную ссылку в своем ответе.

Автор: BitExpert Источник: bitexpert.io

Пользователи, доверяя искусственному интеллекту Grok, переходят по этим ссылкам, что приводит к финансовым потерям. По имеющимся данным, Web3-проекты уже потеряли около $1,25 миллиарда из-за подобных хакерских атак.

Таль незамедлительно уведомил администрацию X о выявленной уязвимости. Технические специалисты платформы начали работу над устранением проблемы, однако пока не сообщается о конкретных мерах противодействия.

Эксперты по кибербезопасности рекомендуют пользователям X проявлять осторожность при взаимодействии с любыми ссылками, даже если они получены через официальные инструменты платформы, включая Grok. Особую бдительность следует проявлять при просмотре рекламных материалов с провокационным содержанием.

Данный инцидент демонстрирует, как злоумышленники быстро адаптируются к новым технологиям и находят способы использовать искусственный интеллект в мошеннических схемах.

Источник: BitExpert

Источник