Минкультуры хочет научить ИИ определять дипфейки
Вице-министр культуры и информации Евгений Кочетов на круглом столе в мажилисе рассказал о вызовах, которые несут цифровые технологии.
Евгений Кочетов отметил, что технологии на основе искусственного интеллекта активно используются в мошеннических схемах. Создаются поддельные голоса, видео и изображения, так называемые дипфейки. Растет объем противоправного контента в Сети. Для борьбы с такими явлениями Министерство культуры и информации создает цифровую инициативу по автоматическому выявлению фейкового контента и определению дипфейков, передает Zakon.kz.
«Эта технология основана на искусственном интеллекте и уже показывает эффективность в борьбе с онлайн-наркоторговлей. Так, специальная система Мерген, работающая на основе ИИ, автоматически мониторит информационное поле, выявляет интернет-магазины наркотиков по прямым и косвенным признакам и блокирует их. Сейчас мы обучаем LLM-модель, чтобы включить в нее функции выявления дипфейков», — пояснил вице-министр.
Совершенствуется и система правового мониторинга. В частности, с помощью искусственного интеллекта расширяется перечень тем, подлежащих мониторингу.
«Алгоритмы смогут анализировать контент, выявлять признаки противоправности и автоматически направлять его на блокировку. Эта работа уже внедряется в практику», — резюмировал Евгений Кочетов.