# Новые проверки быстрого внедрения CodeQL на GitHub показывают, что безопасность программного обеспечения ИИ переходит от рекомендаций по политике к инструментам, связанным с компилятором. Source: TechNewsList (https://technewslist.com) Canonical URL: https://technewslist.com/ru/article/github-codeql-prompt-injection-guardrails-2026-07-12-morning-ru Section: Software (https://technewslist.com/ru/software) Author: TechNewsList Language: ru Published: 2026-07-12T05:26:35.672+00:00 Updated: 2026-07-12T05:26:36.777379+00:00 > Выпуск CodeQL на GitHub от 10 июля имеет значение, поскольку он добавляет первоклассное обнаружение потоков внедрения системных подсказок в JavaScript и TypeScript, показывая, что безопасность приложений ИИ формализуется в основных инструментах разработчиков, а не остается свободным контрольным списком в документации по архитектуре. ## TL;DR - В выпуске CodeQL 2.26 от 10 июля на GitHub добавлен запрос, который определяет, когда ненадежный пользовательский ввод может попасть в системное приглашение модели ИИ. - Обновление также расширяет возможности внедрения подсказок JavaScript и TypeScript в API OpenAI, Anthropic и Google GenAI SDK. - Более широкое значение заключается в том, что безопасность приложений ИИ становится обычной категорией статического анализа, а не второстепенной специализацией. ## Key points - GitHub рассматривает пути неправильного использования LLM как проблемы безопасности кода, которые можно анализировать автоматически. - Системные подсказки становятся защищенными поверхностями, а не просто деталями реализации. - Широкий охват SDK имеет значение, поскольку немедленные риски часто скрываются внутри абстракций, специфичных для платформы. - Статический анализ сам по себе не решит проблему безопасности ИИ, но из-за него будет труднее не заметить основные ошибки. - Платформы разработчиков все чаще решают, как будет выглядеть безопасное программное обеспечение ИИ по умолчанию. # Новые проверки быстрого внедрения CodeQL на GitHub показывают, что безопасность программного обеспечения ИИ переходит от рекомендаций по политике к инструментам, связанным с компилятором. ## Что произошло 10 июля GitHub сообщил, что в CodeQL 2.26 добавлен запрос JavaScript и TypeScript под названием js/system-prompt-injection, предназначенный для обнаружения случаев, когда ненадежные, предоставленные пользователем значения передаются в системное приглашение модели ИИ. В выпуске также расширены приемники быстрого внедрения с помощью дополнительных API-интерфейсов SDK OpenAI, Anthropic и Google GenAI. ![Контекстное редакционное изображение для новых проверок быстрого внедрения CodeQL на GitHub говорит о том, что безопасность программного обеспечения ИИ переходит от рекомендаций по политике к инструментам, связанным с компилятором GitHub CodeQL Оперативное внедрение OpenAI SDK Антропные SDK GitHub История изменений GitHub Docs новости технологий](https://embracethered.com/blog/images/2024/github-copilot-instructions.png) *Контекстный визуальный элемент, выбранный для этой истории TechPulse.* Это значимая веха в разработке программного обеспечения. Оперативное внедрение часто обсуждается как проблема разработки приложений или политики. GitHub продвигает его глубже в обычный инструментарий безопасности программного обеспечения, делая его тем, что статический анализ может обнаружить до того, как код достигнет рабочей версии. Формулировка имеет значение, поскольку приложения ИИ становятся обычными программными системами с необычными режимами сбоев. Если разработчики могут случайно направить враждебный пользовательский ввод в инструкции с самым высоким уровнем привилегий, управляющие моделью, результирующим поведением можно манипулировать способами, которые меньше похожи на обычные ошибки приложения и больше похожи на нарушение логики. ## Почему это важно Это важно, поскольку советы по безопасности ИИ сравнительно легко игнорировать, когда они содержатся только в сообщениях в блогах, обзорах архитектуры или предостережениях поставщиков. Как только проблема попадает в основные инструменты, такие как CodeQL, командам разработчиков становится гораздо труднее относиться к быстрому неправильному использованию как к чужой проблеме. GitHub фактически заявляет, что системные подсказки заслуживают той же серьезности, которую команды уже применяют к запросам SQL, границам аутентификации и обработке запросов на стороне сервера. Это важный культурный сдвиг. Время тоже хорошее. По мере того, как все больше компаний выпускают вторых пилотов, агентов рабочих процессов и помощников, поддерживающих поиск, количество мест, где управляемый пользователем текст может формировать поведение модели, продолжает расти. Инструменты безопасности должны учитывать тот факт, что подсказки теперь являются частью поверхности выполнения. ## Технические детали В примечаниях к CodeQL говорится, что новый запрос обнаруживает, когда ненадежные значения достигают системного приглашения модели ИИ, которое является одним из наиболее чувствительных уровней управления во многих приложениях, поддерживаемых LLM. GitHub also says it has added sinks for more OpenAI, Anthropic, and Google GenAI SDK APIs, including OpenAI Realtime session instructions, Anthropic legacy completion prompts, and Google GenAI cached content and system instructions. ![Контекстное редакционное изображение для новых проверок быстрого внедрения CodeQL на GitHub говорит о том, что безопасность программного обеспечения ИИ переходит от рекомендаций по политике к инструментам, связанным с компилятором GitHub CodeQL Оперативное внедрение OpenAI SDK Антропные SDK GitHub История изменений GitHub Docs новости технологий](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEh208rIbKsD9KOWEYh_Cj8yemxrZRaLkES24390yf_o-hU6MQkiErXc5X6zmkNkhZH6A2X4aW5fyAOWfzK7sTRYeewEfcRn74IWmGkiUuufh2PtmMKEMoZBXoU_VHHNfP3ad-q5UM54i5BbC2qoh42j5YBbh3t-VGSYoall14hUYi96jZtBCe4FHaGGGfBH/s16000/4f1739a9-8221-46d2-a156-557ce76c5869.webp) *Контекстный визуальный элемент, выбранный для этой истории TechPulse.* Более широкий охват раковины важен. Ошибки приложений ИИ редко встречаются в одном каноническом вызове API. Они прячутся в оболочках, вспомогательных методах, абстракциях SDK и реализациях, специфичных для платформы. Инструменты, которые пропускают эти поверхности, дают разработчикам ложное ощущение охвата. Статический анализ все еще имеет ограничения. Не каждую проблему оперативной безопасности можно обнаружить только с помощью потока кода. Но если сделать эти потоки видимыми во время проверки, можно устранить большой класс очевидных ошибок до того, как они станут производственными инцидентами. ## Влияние на рынок и отрасль Для платформ разработчиков более важным сигналом является то, что безопасность ИИ постепенно переходит в стандартную безопасность приложений. Поставщики, которые предоставляют более безопасные настройки по умолчанию и более четкие способы обнаружения, будут определять, насколько быстро предприятия будут доверять программному обеспечению с усовершенствованным искусственным интеллектом в производстве. Для инженерных команд это означает, что оперативная безопасность становится институционализированной. Он переходит от словаря специалистов красной команды к обычным конвейерам CI, сканирования кода и исправлений. Это также оказывает давление на других поставщиков инструментов. Если GitHub сможет сделать быстрое внедрение первоклассным вопросом CodeQL, разработчики будут ожидать аналогичного охвата от сканеров, помощников IDE и продуктов облачной безопасности в других местах. ## За чем следить дальше Посмотрите, расширяет ли GitHub этот подход за пределы оперативного внедрения в другие категории рисков LLM, такие как злоупотребление инструментами, отравление при извлечении и небезопасная обработка выходных данных. Следите за внедрением внутри корпоративных политик сканирования кода. Как только компании начнут включать эти проверки по умолчанию, безопасность программного обеспечения ИИ очень быстро станет более зрелой. И посмотрите, сколько результатов на самом деле появляется в рабочих базах кода. Это будет самым ярким показателем того, что неправильное использование — это не теоретический риск, а обычная проблема инженерной гигиены. ## Источники - [Журнал изменений GitHub: CodeQL 2.26.0 добавляет поддержку Kotlin 2.4.0 и обнаружение быстрого внедрения AI.](https://github.blog/changelog/2026-07-10-codeql-2-26-0-adds-kotlin-2-4-0-support-and-ai-prompt-injection-detection/) - [Документы GitHub: О сканировании кода с помощью CodeQL](https://docs.github.com/en/code-security/code-scanning/introduction-to-code-scanning/about-code-scanning-with-codeql) Mentions: GitHub, КодQL, Быстрая инъекция, OpenAI SDK, Антропные SDK ## Sources - [Журнал изменений GitHub](https://github.blog/changelog/2026-07-10-codeql-2-26-0-adds-kotlin-2-4-0-support-and-ai-prompt-injection-detection/) - [Документы GitHub](https://docs.github.com/en/code-security/code-scanning/introduction-to-code-scanning/about-code-scanning-with-codeql)