Эксперты обсудили преимущества и риски искусственного интеллекта
«AI и человек: угроза или благо?» — таким вопросом задались специалисты в ходе панельной сессии на форуме Digital Almaty 2025.
Эксперты рассмотрели важные аспекты прозрачности и безопасности использования ИИ в Казахстане, включая контроль за его применением и международные практики, направленные на соблюдение этических стандартов. В ходе обсуждения были выделены как преимущества, так и потенциальные риски.
С распространением искусственного интеллекта в Казахстане может возрасти и угроза нарушения конфиденциальности персональных данных. Это наносит значительный ущерб как отдельным пользователям, так и государству в целом. Согласно данным МВД РК, в 2024 году казахстанцы потеряли 45 млрд тенге из-за интернет-мошенничества, причем в 98% случаев они сами добровольно передавали мошенникам свои данные.
«Киберпреступность растет неимоверными темпами не только в Казахстане, но и во всем мире. Искусственный интеллект даст еще больше возможностей, в том числе преступникам, если мы не будем готовы к новым угрозам. Мошенники уже используют технологии дипфейков, позволяющие подделывать видео- и аудиозаписи, что представляет серьезную угрозу для безопасности информации. Важно задуматься о деанонимизации в интернете, ведь каждый должен нести ответственность за распространяемые данные», — подчеркнул вице-министр внутренних дел РК Сакен Сарсенов.
Среди участников сессии были эксперты из разных стран, включая Тодзю Дюк (Великобритания), основателя и генерального директора компаний Bedrock AI и Diverse AI. Она не только руководит успешными AI-компаниями, но и активно продвигает этические стандарты в разработке искусственного интеллекта. В своей книге «Building Responsible AI Algorithms» она представила структуру обеспечения прозрачности, справедливости, конфиденциальности и надежности в алгоритмах ИИ.
«Искусственный интеллект развивается с бешеной скоростью и предлагает множество преимуществ, но пока они не стали доступны широкому обществу. Среди ключевых сфер его применения — борьба с голодом и улучшение здравоохранения, реагирование на кризисные ситуации, повышение безопасности, поддержка людей с ограниченными возможностями. Однако вместе с этим возникают серьезные риски: социальное неравенство, нарушение конфиденциальности, предвзятость алгоритмов и даже угрозы национальной безопасности. Поэтому важно выработать ответственный подход к использованию ИИ, разработать механизмы прозрачности, подотчетности и соблюдения этических норм, чтобы технология приносила пользу всему обществу», — отметила Тодзю Дюк.
Спикеры сошлись во мнении, что для безопасного и эффективного развития ИИ необходимо внедрение четких принципов регулирования, включая контроль за обработкой данных, защиту от манипуляций и минимизацию негативного влияния на энергоресурсы. Также важно обеспечить справедливость алгоритмов, исключить дискриминационные механизмы и разработать надежные системы проверки ИИ перед массовым внедрением.
Не менее важными темами стали подготовка специалистов к работе с ИИ и влияние технологий на культуру, медиа и коммуникации. Спикеры также обсудили трансформацию рынка труда: станет ли ИИ угрозой для традиционной занятости или будет инструментом, дополняющим человеческие усилия? Было подчеркнуто, что важно найти баланс между автоматизацией и сохранением человеческого вклада.