Власти Китая начинают ужесточение контроля над быстроразвивающейся индустрией ‘цифровых людей’, подразумевающих реалистичных ИИ-аватаров, используемых как в бизнесе, так и в личной жизни. Эти меры были вызваны как ростом коммерческой привлекательности сектора, так и усиливающимися опасениями по поводу его этических последствий.
Показательным случаем стала история Чжан Синьюй, которая создала цифровую копию своего умершего отца с помощью ИИ-сервиса Super Brain. Аватар, воспроизводящий внешний вид и голос родителя, стал для нее способом справиться с горем. Однако подобных случаев становится всё больше, и они вызывают бурные обсуждения в обществе, поскольку эксперты предупреждают о рисках эмоциональной зависимости и подмены реальных человеческих связей.
К 2024 году объем рынка ‘цифровых людей’ в Китае должен достичь 4,1 млрд юаней, что соответствует росту на 85% за год. В ответ на эту тенденцию центральный орган регулирования интернета страны разработал проект новых правил, который требует обязательной маркировки контента, созданного с помощью ИИ, и запрещает создание цифровых копий без согласия людей. Документ также направлен на борьбу с мошенничеством и дезинформацией.
Кроме того, предлагается запретить системы, которые могут формировать у несовершеннолетних эмоциональную зависимость. Проект новых правил уже вызвал широкий отклик в обществе, особенно после случая, когда пожилая женщина общалась с аватаром своего умершего сына, не подозревая о его искусственном происхождении.
Поскольку ‘цифровые люди’ становятся все более распространёнными, китайская модель регулирования может стать примером для других стран, стремящихся найти баланс между внедрением новых технологий и контролем их воздействия на общество.