Ученые обманули искусственный интеллект, используя закодированные указания в изображении.

      Анна Сальникова

      Редактор новостной ленты

      Эксперты по кибербезопасности обнаружили метод внедрения вредоносных команд для ИИ-агентов через обычные изображения. Вместо сокрытия инструкций в коде, их помещают внутри изображения. Многие инструменты ИИ при анализе кода воспринимают изображения как «декорацию» и не проверяют их содержание, в результате чего такой запрос выглядит безопасным. Скрытая инструкция активируется позже, когда разработчик просит ИИ выполнить стандартное задание, например, добавить новую функцию. К тому моменту ИИ-агент уже «усваивает» тайные указания и может незамеченно получить доступ к важным файлам проекта, а затем выдать информацию в виде обычного кода.

      Ответ на такую атаку зависит от конкретного инструмента, в который интегрирована модель ИИ. Некоторые программы безоговорочно выполняли скрытые инструкции, в то время как другие выявляли угрозу и отказывались выполнять задачу.

      Ещё новости о событии:

      Исследователи научились прятать вредоносные команды для ИИ в изображениях

      Анна Сальникова

      Редактор новостной ленты

      Специалисты по кибербезопасности нашли способ внедрять скрытые инструкции для ИИ-агентов в обычные картинки. 19:27 14.07.2026 ProKazan.Ru - Казань

      Исследователи обманули ИИ с помощью скрытых инструкций в картинке

      Анна Сальникова

      Редактор новостной ленты

      Специалисты по кибербезопасности нашли способ внедрять вредоносные команды для ИИ-агентов через обычные изображения. 19:27 14.07.2026 ProKazan.Ru - Казань

      Новости соседних регионов по теме:

      Прокуратура нашла 1,5 тыс. нарушений в питании школьников Прикамья

      Анна Сальникова

      Редактор новостной ленты

      Прокуратура Пермского края совместно с Роспотребнадзором проверила питание в 660 школах и детских садах региона. 15:46 14.07.2026 Про Город Пермь - Пермь