Китай ввел всеобъемлющие правила, ограничивающие создание «глубоких подделок», с 10 января.

Это часть мер по пресечению инакомыслия, связанного с недавними протестами «белого листа», и представляет собой интересный случай, поскольку это фактический запрет, в отличие от рекомендаций, которые ограничиваются Европейским союзом и США, которые ссылаются на нарушение свободы слова. Конечно, такие меры Китая стали возможными благодаря существованию «Великого файервола», системы интернет-цензуры, работающей уже более 20 лет, но огромные обязательства по обеспечению прозрачности и раскрытия информации делают этот вопрос весьма спорным.

Технологии, связанные с «глубокими подделками», с самого начала говорили о необходимости маркировки синтетического контента, но не было четкого метода его обеспечения. Кроме того, как свидетельствует выражение «интернет вечен», созданный контент практически невозможно полностью удалить, когда он распространяется. Кроме того, даже после удаления контента коллективное сознание зрителей не исчезает, что было подтверждено примером «голосов апреля», критикующих политику изоляции в Шанхае, которая повлияла на протесты «белого листа».

Исторически сложилось, что внедрение технологий в общество невозможно остановить. Статистика показывает, что 95% «глубоких подделок» в мире являются порнографическими. Примеры реального воздействия «глубоких подделок» на все общество очевидны: фальшивое заявление о капитуляции президента Украины в начале российского вторжения, а также реклама с участием Брюса Уиллиса, страдающего дизартрией. Но, возможно, нам действительно следует опасаться не способов регулирования этой технологии. Новые методы фальсификации реальности существовали всегда, и сосредоточение внимания на самых современных технологиях всегда приводит к проигрышу. Вместо этого мы должны обратить внимание на то, почему создаются эти произведения, и как они распространяются, то есть сосредоточиться на социальных факторах, лежащих в основе распространения ложной информации.

«Технологии «глубоких подделок» вызывают этические сомнения, но по своей сути не являются чем-то плохим».

Адриан де Рёйтер, этик и политолог, в своем исследовании утверждает, что «использование чужого образа без его согласия», «умышленное обман зрителей» и «злонамеренные намерения» делают результаты этой технологии безнравственными. Таким образом, она выявила, что именно намерения людей, то есть создатели и зрители, должны быть в центре внимания. В частности, для контента «глубоких подделок», направленного на такие влиятельные фигуры, как знаменитости или политики, крайне сложно регулировать проявление намерений создателей.

Как же нам двигаться дальше в поисках решений? Можно предложить два основных направления.

Во-первых, мы должны осознавать и признавать, что мы существуем в мире камер и систем распознавания. Я, автор этих строк, и вы, читающий эти строки, проводим большую часть своей повседневной жизни перед мобильными телефонами и ноутбуками с камерами.С точки зрения системы, человеческое поведение – это материал для алгоритма.

Камера, которая следит за тем, чтобы ребенок был в безопасности, нужна для идеальных отношений между родителями и няней, но она также является нечеловеческим субъектом, который учится и выполняет намерения ограничить человека. Осознание того, что мы живем вместе с этими новыми субъектами, может помочь нам управлять и реагировать на безнравственные намерения, связанные с «глубокими подделками».

Во-вторых, необходимо создавать и распространять соответствующее образование в масштабах сообщества. Мы склонны искать чувство принадлежности в слабых связях в цифровой системе. Это связано с отсутствием чувства принадлежности к общественным группам, усиленным пандемией, и желанием верить, что мы связаны с кем-то невидимым, основанным на вкусах или интересах. Примеры этого: просмотр TikTok до 2 часов ночи, частые посещения Википедии, где точность не ожидается, постоянный просмотр историй в Instagram, необработанные групповые чаты, где вам неинтересно.

«Глубокие подделки» имеют тенденцию стимулировать чувство принадлежности от этих слабых связей, но отсутствие глубокой заинтересованности в объекте делает ослабление влияния такого контента относительно легким. Проверка правдивости «глубокой подделки» политиков для снижения их доверия была затруднена для отдельного человека, но результаты одного проекта, в котором политическая партия смогла отличить ложь, доказали, что образовательные программы на основе точки зрения, ценностей и практик сообщества могут быть эффективным решением. Это также означает, что компании, предоставляющие платформенные услуги, где распространяется «глубокая подделка», могут создать стратегические возможности, разработав и предложив уникальные решения для сообщества пользователей.

С одной стороны, есть примеры позитивного использования технологии «глубокой подделки», например, фильм «Форсаж», в котором Пола Уокера, погибшего в автокатастрофе, «воскресили» путем наложения его лица на лицо его брата, который играл его роль. С другой стороны, в реальности есть примеры того, как чья-то жизнь рушится из-за поддельного видео сексуального характера, созданного для конкретной женщины-журналиста.

Важно помнить, что актеры киноиндустрии в настоящее время являются наиболее защищенными от технологии «глубоких подделок». Сегодняшнее общество не может ответить на вопрос, как реагировать, если объектом станет обычный человек. Пожалуй, прежде чем ожидать правового регулирования, нам необходимо осознать самих себя, которые развлекаются, просматривая «глубокие подделки» в социальных сетях, таких как TikTok.

*Эта статья основана на оригинальной статье, опубликованной 14 февраля 2023 года вколонке газеты «Электроника» .

Ссылки

Китай ужесточает правила в отношении «глубоких подделок» беспрецедентным образом. Вот что означают правила

Брюс Уиллис в рекламе… «Глубокая подделка» для актеров, которые ушли в отставку или умерли, вызывает споры

Отдельное зло «глубоких подделок»

Искусственный интеллект среди нас: агенство в мире камер и систем распознавания

Использование «глубоких подделок» для экспериментов в социальных науках – пилотный проект⁠⁠⁠⁠⁠⁠⁠