Информационная безопасность

ЕС обязывает IT-компании маркировать дипфейки. Будет ли от этого толк?

На этой неделе вступают в силу новые правила Закона Европейского союза об искусственном интеллекте (AI Act). Они обязывают разработчиков и компании-поставщиков услуг специально маркировать контент, созданный с помощью искусственного интеллекта, в том числе дипфейки. Однако эксперты предупреждают, что технические проблемы и отсутствие единых стандартов осложнят применение этих правил на практике.

С воскресенья компании, работающие с искусственным интеллектом, действуют в соответствии с новыми требованиями Европейского союза. Согласно им, дипфейки и другой контент, созданный с помощью ИИ, должны быть соответствующим образом помечены.

Однако существующие технические трудности заставляют экспертов скептически оценивать эффективность новых правил.

Два года назад Европейский союз разработал всеобъемлющее законодательство, регулирующее использование искусственного интеллекта. Одновременно было создано специальное управление, контролирующее соблюдение этих правил.

Первый в мире Закон об искусственном интеллекте вводит принцип прозрачности для цифрового контента. Он требует от разработчиков систем ИИ, таких как Claude компании Anthropic и ChatGPT компании OpenAI, обеспечить возможность распознавания контента, созданного или отредактированного с помощью ИИ.

Для дипфейков требования еще строже. Речь идет об изображениях, аудио и видео, созданных или обработанных искусственным интеллектом и очень убедительно имитирующих внешность, голос или действия реального человека.

От сатиры до манипуляции

Как и любую технологию, искусственный интеллект можно использовать как во благо, так и во вред.

В Брюсселе признают, что такой контент не всегда создается для того, чтобы обмануть или ввести людей в заблуждение. Некоторые материалы носят художественный, научный или сатирический и юмористический характер — они под эти требования не подпадают.

Одним из известных примеров стала широко разошедшаяся в интернете в 2023 году созданная ИИ фотография Папы Франциска в модном белом пуховике. Многие восприняли ее просто как шутку.

Однако в 2024 году всемирно известная певица Тейлор Свифт стала мишенью киберпреступников, после того как в сети распространились откровенные изображения, созданные ИИ без ее согласия. Этот случай вновь обострил дискуссию о рисках, связанных с ИИ-технологиями.

Дипфейки все чаще становятся и инструментом политической манипуляции.

В 2022 году, вскоре после начала полномасштабного вторжения России в Украину, распространилось фейковое видео, на котором президент Украины Владимир Зеленский якобы призывает военных сложить оружие. Вскоре выяснилось, что оно поддельное, однако этот случай наглядно продемонстрировал, что искусственный интеллект может использоваться и как оружие в информационной войне.

Главная обеспокоенность заключается в том, что созданный ИИ и распространяемый через интернет контент выглядит все более реалистично. В результате людям все труднее отличать достоверную информацию от лжи.

Регулирование дипфейков

В ответ на эту проблему Европейская комиссия разработала свод правил, определяющих, как компании должны обозначать происхождение такого контента. Он предусматривает использование специальных машиночитаемых метаданных, а для дипфейков — видимых пользователю пометок.

Основной принцип прост: пользователь должен понимать, создан или отредактирован ли контент перед ним искусственным интеллектом. Поэтому требования распространяются не только на компании-разработчики ИИ-технологий, но и на организации, использующие их в профессиональной деятельности. Личное использование под это регулирование не подпадает.

Правила не ограничиваются маркировкой контента. Они охватывают и механизмы выявления подобных материалов. Это требует взаимодействия разработчиков технологий, социальных сетей, организаций гражданского общества и фактчекеров.

Но насколько реально применить эти правила на практике?

Один закон — множество препятствий

Первая проблема — географические ограничения. Европейский союз может регулировать только компании, работающие на европейском рынке или ориентированные на него. Однако контент в интернете не признает границ. Дипфейк, созданный за пределами Европы, за считаные минуты может дойти до миллионов европейских пользователей.

Вторая проблема — степень зрелости технологий. Такие крупные ИИ-компании, как OpenAI и Google, подписали свод правил Комиссии и поддержали требования прозрачности. Вместе с тем они подчеркивают, что технологии распознавания и маркировки контента постоянно развиваются и представляют собой «движущуюся мишень».

Единого решения для всей отрасли пока нет. Компании экспериментируют с разными методами — водяными знаками (watermark), метаданными и системами отслеживания происхождения контента. Однако эти системы не всегда совместимы друг с другом.

Третья проблема — неустойчивость цифровых следов. Эксперты отмечают, что водяные знаки можно удалить, изменить или потерять при редактировании, сжатии или передаче контента через разные платформы. А восстановить полную историю ИИ-контента, прошедшего многократную обработку, крайне сложно.

Поэтому исследователи считают, что полагаться только на одну технологию недостаточно. Компаниям, вероятно, придется использовать многоуровневый подход, сочетающий несколько методов.

В исследовании Европейской комиссии на эту тему говорится:

«Сочетание нескольких решений дает более эффективный результат, чем любая отдельная мера. Поэтому лучшей практикой считается внедрение нескольких уровней маркировки и распознавания контента, созданного искусственным интеллектом».

Успеть за развитием технологий

Европейский союз стал одним из ведущих регионов, пытающихся решить одну из важнейших проблем эпохи искусственного интеллекта. Сегодня отличать созданный ИИ контент от подлинных материалов становится все сложнее.

Но главный вопрос остается открытым: успеет ли Брюссель за технологиями, развивающимися с беспрецедентной скоростью?

Именно ответ на этот вопрос определит, станут ли требования прозрачности Закона об искусственном интеллекте действительно эффективным инструментом защиты для граждан Европы.

Подпишитесь на ежемесячный дайджест

Раз в месяц — одно короткое письмо с главными фактчеками и разоблачениями фейков. Без спама, отписаться можно в любой момент.

Язык рассылки:

По теме

Подпишитесь на ежемесячный дайджест

Главные проверки месяца — раз в месяц на вашу почту.