Тип публикации: статья из журнала
Год издания: 2025
Ключевые слова: llm, prompt-инъекция, базы данных, чат-боты, stride, информационная безопасность, SQL-инъекции, текстовые запросы
Аннотация: В работе рассматриваются современные угрозы информационной безопасности, возникающие при использовании больших языковых моделей в качестве интерфейса для работы с базами данных и пользовательскими приложениями. Особое внимание уделяется атакам, основанным на использовании текстовых запросов, включая prompt-инъекции и Prompt-to-SQL Показать полностьюатаки, при которых злоумышленник может повлиять на формирование SQL-запросов и получить доступ к данным, не предусмотренным правилами системы. В статье проводится обзор и анализ четырёх актуальных научных исследований, посвящённых уязвимостям LLM-интегрированных приложений, методам выявления вредоносных запросов и архитектурным подходам к защите чат-ботов. Рассматриваются практические меры противодействия, такие как предварительная проверка пользовательских запросов, ограничение возможностей языковых моделей, использование нескольких уровней контроля и применение методологии STRIDE для анализа угроз.
Журнал: Научные высказывания
Выпуск журнала: №19
Номера страниц: 13-15
ISSN журнала: 27823121
Место издания: Москва
Издатель: Румянцев Антон Алексеевич