Искусственный интеллект и кибербезопасность: новые угрозы технологий

В Алматы прошел форум Digital Almaty 2025, посвященный вопросам искусственного интеллекта. Мероприятие собрало ведущих специалистов и экспертов для обсуждения актуальных тем в этой области, среди которых была поднята важнейшая проблема — безопасность при использовании ИИ. Одним из спикеров стал Улыкбек Шамбулов, заместитель председателя Государственной технической службы, который поделился своими мыслями по поводу рисков и возможностей, которые несет новая технология.

С исторической точки зрения человечество пережило несколько технологических революций, которые кардинально изменили жизнь. К их числу можно отнести коневодство, судостроение, авиацию, компьютеры и интернет, освоение космоса — все эти технологии дали огромные преимущества развивающимся странам в свою эпоху. Сегодня среди таких революционных технологий можно выделить и искусственный интеллект.

В своем выступлении Шамбулов подчеркнул, что искусственный интеллект обладает огромным потенциалом, способным кардинально изменить различные сферы жизни, однако он также несет с собой угрозы, которые необходимо учитывать: «Мы живем в уникальное время. Искусственный интеллект — это не просто технология, это система, которая через несколько лет будет работать наравне с человеком. Мы не можем позволить себе отстать от этого процесса».

Он также акцентировал внимание на том, что безопасность не должна становиться препятствием для прогресса: «Как электричество, которое потенциально опасно, но мы научились безопасно им пользоваться, так и ИИ можно эффективно и безопасно интегрировать в нашу жизнь, если подходить к этому с умом».

Спикер подробно остановился на некоторых угрозах, связанных с применением ИИ. Одна из главных проблем — защита данных. Современные системы ИИ, особенно большие языковые модели (LLM), могут быть крайне полезными для улучшения обработки информации и коммуникаций, однако работа с конфиденциальными данными требует особого подхода. Важно следить за тем, чтобы информация не «утекала» наружу, и использовать локальные решения для обработки данных, чтобы минимизировать риски.

Также он отметил проблему надежности информации, генерируемой ИИ. Например, такие модели как ChatGPT могут создавать неверные или недостоверные данные. Учитывая, что ИИ обучается на основе общедоступной информации, иногда возникают ситуации, когда он дает не совсем точные результаты. Это особенно актуально, если речь идет об исторических событиях, которые могут быть интерпретированы через призму другой культуры или страны.

Кроме того, существует угроза кибершаблонов, которым могут подвергаться системы ИИ. Поскольку такие модели часто работают на основе классических операционных систем, они подвержены традиционным уязвимостям (SSRF, RCE, XSS) и могут быть взломаны через подмену данных или введение команд.

Еще одной важной темой стали атаки типа Prompt Injection, при которых злоумышленники могут манипулировать моделью, заставляя ее выполнять определенные действия, используя команды, как если бы они исходили от разработчика. Это напоминает поведение детей, которых можно легко обмануть, и представляет собой серьезную угрозу в контексте безопасности ИИ-систем.

Улыкбек Шамбулов в своей речи подчеркнул, что инновации должны быть не только функциональными, но и безопасными. Если мы не будем уделять должного внимания безопасности, то рискуем столкнуться с негативными последствиями от использования технологий.

«Каждую технологию нужно внедрять с вниманием к безопасности, чтобы избежать возможных негативных последствий», — отметил он.

Форум Digital Almaty стал важной платформой для обсуждения вопросов развития ИИ и обеспечения его безопасности. Главная цель — не замедлять темпы технологического прогресса, а научиться интегрировать инновации с учетом рисков и угроз, что позволит максимизировать преимущества, которые дает искусственный интеллект.