ВШЭ и МТС будут вместе бороться с дипфейками и научат искусственный интеллект создавать новое видео под запросы пользователей
НИУ ВШЭ и компания МТС Web Services (MWS) объявили о запуске серии совместных исследовательских работ в области технологий искусственного интеллекта, направленных на развитие инновационных решений в сфере кибербезопасности, мультимодальной генерации контента и анализа больших данных. Основным исполнителем проекта является Московский институт электроники и математики им. А.Н. Тихонова НИУ ВШЭ при общей координации Центра искусственного интеллекта ВШЭ.
Партнерство нацелено на расширение возможностей искусственного интеллекта в задачах улучшения взаимодействия с клиентами и повышения качества предоставляемых услуг, что в целом приведет к укреплению позиции MWS на рынке цифровых технологий.
Проект нацелен на проведение исследований и разработок в области мультимодальных моделей ИИ для генерации пользовательского контента, а также формирования расширяемого набора данных для тестирования моделей биометрической идентификации на устойчивость к дипфейкам.
Оба направления входят в топ-10 технологических трендов 2025 года ведущей мировой консалтинговой компании Gartner. В частности, одной из ключевых тенденций в развитии сервисов и систем на базе генеративного ИИ являются платформы для контроля этичности, прозрачности и безопасности ИИ-решений (например, для предотвращения дипфейков).
Дмитрий Коваленко, директор МИЭМ НИУ ВШЭ
«Мы рады приветствовать МТС Web Services среди индустриальных партнеров МИЭМ ВШЭ, тем более по такой перспективной теме, как искусственный интеллект. Для нас очень ценно, что МТС как признанный лидер в области связи, биометрии, создания видеоконтента и клиентских сервисов для развития перспективных ИИ-технологий выбрал именно наш институт. Я уверен, что совместные исследования и разработки значительно обогатят обе стороны. Мы готовы совместно развивать экспертизу в области ИИ, что, в свою очередь, продвинет технологии и сервисы МТС».
Первым направлением проекта является генерация мультимодального контента методами ИИ под потребности конкретных пользователей. В первую очередь речь идет о видеоконтенте. На просмотр видео среднестатистический россиянин тратит более 1,5 часа в день. И большая часть видео потребляется именно с мобильного телефона, что для МТС как крупнейшего оператора связи во многом определяет стратегию развития бизнеса. Потребности пользователей требуют все больше креативных решений, способных эффективно привлекать внимание целевой аудитории и формировать доверительное отношение к цифровым сервисам. Именно поэтому Центр ИИ НИУ ВШЭ и компания МТС Web Services решили сосредоточиться на исследованиях и внедрении новейших технологий для производства качественных визуальных материалов, основанных на индивидуальных предпочтениях и интересах пользователей.
Главные приоритеты этого направления связаны с тремя ключевыми задачами. Во-первых, будут проведены исследования способов синтеза визуально привлекательного материала. В результате отобранные модели будут подбирать подходящие именно данному клиенту медиафайлы, будь то видео, графика или аудиозаписи. Затем специалисты проведут тщательную проверку имеющихся моделей генерации контента, чтобы выбрать оптимальное сочетание скорости и качества результата. И далее для максимального удовлетворения потребностей пользователей предстоит разработать собственные механизмы автоматической обработки мультимедийных данных, позволяющие получать идеальный результат в каждой конкретной ситуации.
Сергей Сластников, начальник отдела прикладного искусственного интеллекта МИЭМ НИУ ВШЭ
«В рамках исследований будет сделан существенный шаг в части применения технологий генеративного ИИ к прикладным задачам, востребованным в МТС Web Services в области редактирования мультимодального контента и создания продвинутой аналитики данных. Мы уверены, что в конечном итоге это приведет к созданию новых сервисов и услуг в сфере B2B и B2C».
Важнейшее направление проекта — моделирование угроз для алгоритмов и систем биометрической идентификации, борьба с т.н. дипфейками. Биометрия активно проникает в нашу жизнь, уже сегодня используется в различных прикладных сервисах — от платежных систем и банкоматов до персонализированных маркетинговых сервисов. Рынок решений биометрической идентификации стремительно растет не менее чем на 15–27% в год и к 2032 году (а возможно, и раньше) превысит 110 млрд долларов.
Сфера финансовых услуг внедряет биометрическую аутентификацию беспрецедентными темпами. По данным Juniper Research, по состоянию на 2023 год 83% банковских учреждений по всему миру внедрили хотя бы одну форму биометрической аутентификации, что значительно больше, чем 35% в 2018 году.
Очевидно, что растет и количество атак на такие системы. Современные модели ИИ уже сегодня позволяют эффективно генерировать дипфейки для атак на биометрию. Распознавание лиц при удаленной аутентификации по фотографии или видео — ключевая модальность во многих системах безопасности. Генерация дипфейков становится все доступнее и дешевле, не требуя от злоумышленников специальных навыков, глубоких знаний или серьезной квалификации. Следовательно, увеличиваются возможности по реализации атак даже начинающими хакерами. Уже сейчас понятно, что следующие поколения мошеннических атак будут включать в себя в том числе атаки на биометрическую аутентификацию. Число атак на биометрию растет экспоненциально. Все это расширяет круг рисков для таких систем. Моделированием подобного рода угроз и оценкой моделей ИИ на устойчивость к атакам на биометрическую идентификацию и займется проект.
Антон Сергеев
«Повсеместное внедрение систем биометрической идентификации — это последовательная позиция бизнеса и власти и у нас в стране, и за рубежом. И конечно, мы должны поставить надежный барьер от атак на эти системы. Сейчас с этим серьезные проблемы, т.к. биометрическая идентификация уже есть, а условного биометрического файервола еще нет. Напомню, совсем недавно был принят Федеральный закон 41-ФЗ по защите граждан от кибермошенников, который в очередной раз расширил области использования систем биометрии в банковской сфере», — добавляет Антон Сергеев — руководитель проекта, директор Центра программных разработок и цифровых сервисов МИЭМ НИУ ВШЭ. «Наше исследование делится на два последовательных этапа. В этом году команда проекта проведет глубокий анализ существующих проблем в области атак на биометрические системы и выберет лучшие подходы для их преодоления. Конечная цель — создание технической основы для последующего практического воплощения задуманных идей. Затем мы перейдем к практической фазе, предусматривающей непосредственную апробацию разработанных решений в экосистеме партнера».
Брита Ильягуева, советник генерального директора МТС Web Services
«Объединение технологического потенциала МТС Web Services и научной базы ВШЭ — стратегический шаг для укрепления цифрового суверенитета России. Создание надежных систем защиты от дипфейков и разработка передовых решений в сфере генеративного контента позволят нам не только обеспечить высокий уровень безопасности пользовательских данных, но и повысить качество цифрового взаимодействия с клиентами. Мы формируем технологический фундамент, который выведет отечественные решения на новый уровень конкурентоспособности».
Сотрудничество ведется в рамках реализации программы Центра искусственного интеллекта НИУ ВШЭ. Как сообщалось ранее, НИУ ВШЭ стал одним из победителей отбора третьей волны исследовательских центров в сфере искусственного интеллекта.
Вам также может быть интересно:
НИУ ВШЭ стал абсолютным лидером рейтинга вузов по подготовке кадров для ИИ
Альянс в сфере искусственного интеллекта опубликовал обновленный рейтинг вузов по качеству подготовки специалистов в области ИИ. В него вошли 203 российских университета из 68 регионов. Высшая школа экономики первой получила наивысшую категорию А++.
11 вузов России стали участниками проекта ВШЭ и «Яндекса» по применению ИИ при подготовке дипломных работ
Эксперты «Яндекс Образования» и факультета компьютерных наук НИУ ВШЭ научили студентов и научных руководителей использовать нейросеть YandexGPT в трудоемких задачах — для анализа источников, структурирования информации, визуализации данных и работы с текстом в процессе подготовки дипломов.
НИУ ВШЭ объединил ученых на международной школе по ИИ в Шанхае
В начале июля в Шанхае проходил Международный летний институт по исследованиям искусственного интеллекта в образовании, организованный Инобром НИУ ВШЭ совместно с Восточно-китайским педагогическим университетом. Более 50 молодых исследователей и ключевых спикеров из девяти стран — от России и Китая до Канады и Сингапура — собрались, чтобы обменяться последними результатами своей работы и построить новые международные партнерства.
Исследователи ВШЭ научили нейросети различать происхождение из генетически близких популяций
В Институте искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ предложили новый подход, основанный на современных методах машинного обучения, для определения генетического происхождения человека. Графовые нейросети позволяют с высокой точностью различать даже очень близкие популяции.
«Развитие экономики без фактора ИИ уже невозможно»
В Шанхае стартовал международный летний институт по исследованиям искусственного интеллекта в образовании, организованный Институтом образования НИУ ВШЭ совместно с Восточно-китайским педагогическим университетом (ВКПУ). На него приехало свыше 50 участников и ключевых спикеров более чем из десяти стран Азии, Европы, Северной и Южной Америки. Они обсудили использование ИИ-технологий в образовании и других сферах.
Эксперты ВШЭ и РГАИС выступили за патентную защиту ИИ-решений
В НИУ ВШЭ состоялся круглый стол «Искусственный интеллект и ИТ-решения: тенденции охраны и возможности патентования». Лейтмотивом мероприятия стало признание необходимости доработки действующего отечественного законодательства в области интеллектуальной собственности на основе риск-ориентированного подхода.
Рекомендательные системы: новые алгоритмы и современная практика
Институт ИИ и цифровых наук ФКН НИУ ВШЭ провел конференцию, посвященную передовым технологиям рекомендательных систем. Мероприятие прошло в атмосфере активного обмена опытом между ведущими специалистами отрасли и позволило участникам ознакомиться с последними достижениями и практическими решениями в области разработки рекомендательных моделей.
ИИ в университетах: раскрытие потенциала и преодоление тревог
Образовательные ИИ-инструменты заметно эволюционировали, однако до сих пор многие представители университетов и рядовые пользователи испытывают опасения на их счет. Ученые Института образования НИУ ВШЭ изучили различные аспекты интеграции искусственного интеллекта в образовательный процесс и объединили усилия с ИТ-компанией «Кеды профессора», чтобы помогать российским вузам встраивать ИИ-решения в свою работу.
«ИИ и машинное обучение — мощные технологии, но не везде научились их применять»
Рост доходов мировой индустрии образования может составить до 4% в ближайшие годы благодаря внедрению технологий искусственного интеллекта. Кроме того, ИИ сокращает время работы преподавателей в 4–5 раз. Эксперты Вышки рассказали, как преподаватели и административный персонал вузов осваивают нейросети, боты и другие инструменты и почему не стоит бояться, что их заменит ИИ.
Онлайн-кампус НИУ ВШЭ стал лауреатом премии «AI Олимп»
«AI Олимп» оценивает разработки в области искусственного интеллекта и является продолжением проекта Digital Leaders, который более 10 лет освещает лучшие достижения в области цифровизации, онлайн-сервисов и диджитал-решений.Онлайн-кампус НИУ ВШЭ стал победителем номинации «Платформа года» в категории «Персонализированные обучающие платформы». Среди лауреатов премии — Сбер, «Гемотэк», RuStore, «Норникель», «Авито» и другие крупные компании.