Видеогенератор открытого ИИ Sora открывает даери пропаганде

19.02.2024

Sora создает по описанию заказчика продолжительностью в одну минуту видео, точно также, как ChatGPT отвечает на письменные запросы или как Dall-E предлагает иллюстрации. Новая технология позволяет показывать видеоистории за значительно меньший использованный ресурс, но которые позволяют усилить влияние дезинформации и сделать проправительственную пропаганду намного эфективнее, ослабляя и без того сумрачную границу между правдой и фейком. Видео, созданные при помощи ИИ (искусственный интеллект), на самом деле усиливают влияние точек зрения, которые разжигают рознь, но которые созданы на базе информации, найденной в сети. 

“Ясность правды, которую мы осозновали на базе фотографий и видео, исчезла”, – сказал профессор ИТ Унивесритета Нортвестерна Кристиан Хаммонд. “Мы сами того не подозревая выстроили мир моторов пропаганды”.

Кристиан Хаммонд

На вопрос ABC News, что предпринято для исключения злоупотреблений программой Sora, OpenAI отправил на свою домашнюю страничку. Там напсиано, что перед использованием этих продуктов надо предпринять некоторые шаги по безопасности. “Мы сотрудничаем с нашими экспертами по дезинформации или по содержанию, вызывающему рознь – они протестируют модель”.

Предприятие намерено использовать некоторые элементы безопасности от генератора картинок Dall-E, например таких, которые используют выброски из текста для проверки на “чистоту содержания, использования чужих ИП-адресов и правового использования личных данных известных персон”.

Очень тяжело оценивать демо версии продуктов, которые еще не доступны широкой общественности, но независимо от этого надо быть крайне осторжным с нецелевым использованием возможностей видеогенераторов и вызовами разнообразных программ по обеспечению безопасности.

Риски от содержания, созданного искусственным интеллектом, достаточнов высоки. Об этом свидетельствуют и новости последних недель. Поп-дива Тэйлор Свифт стала жертвой из-за созданных ИИ вульгарных и сексуальных фейковых изображений в соцсетях в январе, что вызвало миллионы просмотров. Фейковое звуковое робот-сообщение с голосом Джо Байдена вызвало реакцию людей перед предвыборной гонкой в Нью-Гемпшире.

Sora, как и другие генерированные продукты искусственного интелелкта, обучены по данным из сети, оставляя ее уязвимой для широко репродуктированным предвзятым мнениям, например, как расизм или гендерные стереотипы. Помимо видоклипов и ими созданному модерированному содержанию, планирует OpenAI применить так называемый “классификатор распознования”, который сможет распознать когда программа Sora создала видео. На домашней страничке выделено, что это содержит и признанный популярным дигитальный ярлык, который по сути означает цифровой водяной знак. Такие методы очень кстати, однако видео можно тиражировать или менять под видом снятия этих знаков. “Это как гонка вооружения, потому что люди пытаются обойти установленные завесы безопасности”, – сказал Хаммонд.

Об опасностях, которые таит в себе ИИ, недавно писал и один из известнейших жкспертов по пропаганде Георгий Почепцов: “Сегодня появился еще один «заказчик» для такого рода обманных задач — это искусственный интеллект, который может вести такую работу, а может и сам оказаться объектом этого воздействия. Он может опираться на информационные потоки, в которые будет заложена недостоверная информация и тогда таким же будет и его результат. О последнем варианте специалисты говорят так: «Большой проблемой является то, что сама информация может быть недостоверной. Источником этого могут быть вебсайты и взаимодействие с людьми. Есть много возможностей для плохих игроков изменить эту информацию, как во время обучения искусственного интеллекта, так и после, в то время как искусственный интеллект будет улучшать свое поведение благодаря взаимодействию с физическим миром. Это приведет к тому, что он начнет действовать нежелательным образом. Чатботы, например, могут научиться отвечать, используя оскорбительные или расистские высказывания, когда их запреты будут обходиться тщательно продуманными вредоносными подсказками».