OpenAI рассказала, как устроена безопасность в Sora 2 и приложении Sora — генераторе видео нового поколения и социальной платформе для совместного создания роликов. Компания делает акцент не только на качестве видео, но и на защите от дипфейков, злоупотреблений с чужой внешностью, небезопасного контента и рисков для подростков.
Что произошло
OpenAI опубликовала материал Creating with Sora Safely, где объяснила, какие ограничения и защитные механизмы встроены в Sora 2 и приложение Sora.
Если коротко: Sora 2 — это не просто модель, которая генерирует видео по текстовому описанию. OpenAI позиционирует её как полноценную среду для создания и публикации AI-видео, где есть лента, профили, сообщения, комментарии, персонажи и инструменты работы с внешностью реальных людей.
Именно поэтому безопасность здесь сложнее, чем в обычном генераторе картинок. Видео выглядит реалистичнее, содержит движение, может включать голос и звук, а значит риски становятся выше: фейковые ролики, имитация людей, травля, сексуализированный контент, манипуляции с публичными персонами, подделка музыки и так далее.
OpenAI утверждает, что строила Sora 2 с защитой «в основании», а не добавляла фильтры постфактум.
Чем Sora 2 отличается от первой Sora
Первая Sora была в основном демонстрацией возможностей видеогенерации: модель могла создавать реалистичные сцены, работать с движением, камерой и сложными визуальными запросами. Но это был скорее исследовательский продукт.
Sora 2 — уже более практичная и социальная версия. Главное отличие — не только в качестве генерации, а в формате использования.
Что изменилось:
- появилась отдельная Sora app;
- видео можно создавать и публиковать внутри социальной ленты;
- добавлены функции, связанные с внешностью и голосом пользователя;
- появилась система characters — управляемых AI-персонажей на основе образа человека;
- усилены водяные знаки и метаданные происхождения контента;
- добавлены отдельные правила для подростков;
- жёстче модерируются видео с реальными людьми;
- отдельно контролируется сгенерированная речь и музыка.
То есть Sora 2 — это уже не «генератор роликов в вакууме», а потенциальная TikTok-подобная среда для AI-видео. Поэтому OpenAI вынуждена решать не только техническую задачу «сделать красиво», но и социальную: как не превратить инструмент в фабрику дипфейков.
Как OpenAI маркирует AI-видео
Один из главных пунктов — происхождение контента.
Все видео, созданные в Sora, получают видимые и невидимые признаки того, что они сгенерированы искусственным интеллектом. OpenAI пишет о нескольких уровнях маркировки:
- видимые водяные знаки;
- динамические водяные знаки, которые движутся вместе с видео;
- C2PA-метаданные;
- внутренние системы обратного поиска по изображению и аудио.
C2PA — это стандарт для подтверждения происхождения цифрового контента. Он помогает понять, где и как был создан файл, если метаданные не были удалены.
Проблема в том, что любые видимые водяные знаки можно попытаться обрезать, замазать или удалить. Поэтому OpenAI делает ставку не только на картинку, но и на скрытые сигналы. Компания утверждает, что её внутренние инструменты могут с высокой точностью определить, был ли ролик создан через Sora.
Это важный момент для журналистов, платформ, модераторов и обычных пользователей. Чем реалистичнее становится AI-видео, тем ценнее становится возможность проверить источник.
Работа с внешностью реальных людей
Самая чувствительная часть Sora 2 — генерация видео с похожестью на реальных людей.
OpenAI разрешает пользователям загружать фотографии людей и создавать на их основе видео. Но есть условие: пользователь должен подтвердить, что у него есть согласие изображённых людей и права на загрузку материалов.
На практике это не гарантирует идеальную защиту. Любой сервис, основанный на пользовательском подтверждении, всё равно может столкнуться с нарушениями. Но OpenAI добавляет дополнительные фильтры именно для таких сценариев.
Видео с реальными людьми модерируются строже, чем обычные генерации. Если на изображениях есть дети или люди, выглядящие как несовершеннолетние, правила становятся ещё жёстче.
Отдельно OpenAI подчёркивает: ролики с людьми при публикации всегда будут иметь водяные знаки.
Characters: управляемая похожесть с согласием
Для работы с образом человека OpenAI использует функцию characters. Раньше она называлась cameo.
Смысл такой: пользователь может создать персонажа на основе своей внешности и голоса, а затем сам решать, кто имеет право использовать этот образ.
Это важное отличие от обычной генерации по фотографии. В characters OpenAI пытается выстроить модель согласия:
- только пользователь решает, кому открыть доступ к своему персонажу;
- доступ можно отозвать;
- видео с персонажем видны владельцу образа;
- владелец может удалить или пожаловаться на ролики;
- для персонажей работают дополнительные ограничения.
Например, можно включить более строгий режим, который ограничивает сильное изменение внешности, унизительные ситуации или искажение личности.
Это попытка решить одну из главных проблем AI-видео: человек не должен терять контроль над своим лицом и голосом.
Публичные фигуры и дипфейки
OpenAI отдельно говорит, что принимает меры против изображений публичных фигур, если они не используют официальную функцию characters.
Это логично: генерация политиков, актёров, музыкантов, бизнесменов и других известных людей — один из самых рискованных сценариев. Такие ролики могут использовать для мошенничества, пропаганды, фейковых новостей или репутационных атак.
При этом OpenAI оставляет возможность для публичного человека самому создать управляемый образ через characters. То есть не «любой может сделать видео с известным человеком», а «сам человек может разрешить использование своего образа в заданных рамках».
Защита подростков
Sora — не только генератор, но и социальное приложение. Поэтому OpenAI отдельно описывает защиту молодых пользователей.
Для подростковых аккаунтов предусмотрены:
- ограничения на зрелый контент;
- фильтрация опасных или неподходящих материалов в ленте;
- запрет на рекомендации подростковых профилей взрослым;
- запрет взрослым первыми писать подросткам;
- родительские настройки через ChatGPT;
- возможность выбрать неперсонализированную ленту;
- лимиты на непрерывный скроллинг по умолчанию.
Последний пункт особенно интересен. OpenAI признаёт, что Sora — это не просто инструмент творчества, а потенциально затягивающая лента. Поэтому компания добавляет ограничения на бесконечное потребление контента.
Для родителей это важный сигнал: Sora может быть не только «AI-редактором видео», но и социальной сетью с привычными рисками — рекомендациями, личными сообщениями, комментариями и вовлечением.
Фильтрация вредного контента
OpenAI пишет, что использует многоуровневую защиту. Проверяется не только текстовый запрос, но и результат генерации.
Система анализирует:
- промпт пользователя;
- несколько кадров видео;
- аудиотранскрипты;
- контент перед попаданием в ленту.
Блокируются или ограничиваются материалы, связанные с сексуальным контентом, террористической пропагандой, самоповреждением и другими нарушениями правил использования.
Важно, что для Sora правила строже, чем для генерации изображений. Причина понятна: видео сильнее воздействует на зрителя. В нём есть движение, монтаж, мимика, голос, музыка и ощущение «реального события».
OpenAI также проводила red teaming — тестирование системы на попытки обойти ограничения. Такие проверки нужны, чтобы заранее найти слабые места: например, как пользователь может замаскировать запрещённый запрос, разбить его на части или добиться нежелательного результата косвенными формулировками.
Отдельные ограничения для аудио и музыки
Sora 2 работает не только с изображением, но и со звуком. Это резко повышает риски.
Если модель может генерировать речь, появляется опасность имитации голоса. Если может генерировать музыку — риск копирования исполнителей, песен и узнаваемого стиля.
OpenAI пишет, что Sora автоматически проверяет транскрипты сгенерированной речи на нарушения. Также система блокирует попытки создать музыку, имитирующую живых артистов или существующие произведения.
Кроме того, компания обещает реагировать на takedown-запросы от авторов, если они считают, что результат Sora нарушает их права.
Для музыкальной индустрии это принципиальный вопрос. AI уже умеет генерировать треки «в стиле» известных исполнителей, и грань между вдохновением, пародией и нарушением авторских прав становится всё сложнее.
Контроль пользователя: удалить, пожаловаться, заблокировать
OpenAI подчёркивает, что пользователь сам решает, когда публиковать видео.
Ролики не попадают в ленту автоматически — только если человек сам выбрал публикацию. Уже опубликованный контент можно удалить.
Также можно пожаловаться на:
- видео;
- профиль;
- личное сообщение;
- комментарий;
- персонажа.
Есть и блокировка аккаунтов. Если пользователь кого-то заблокировал, тот не сможет видеть профиль и посты, использовать character и писать в личные сообщения.
Это стандартные механики социальных платформ, но в случае AI-видео они особенно важны. Здесь жалобы касаются не только грубости или спама, но и возможного использования чужой внешности, голоса или репутации.
Почему это важно
Sora 2 показывает, что рынок генеративного видео входит в новую фазу.
Раньше главные вопросы были техническими: насколько реалистично выглядит сцена, держится ли объект в кадре, не ломается ли физика, не плывут ли руки и лица.
Теперь вопросы другие:
- кто имеет право использовать чьё лицо;
- как отличить AI-видео от реальной съёмки;
- кто отвечает за вредный ролик;
- как защитить подростков;
- как предотвратить подделку голоса;
- как соблюсти авторские права музыкантов;
- как модерировать социальную ленту, где весь контент создаётся AI.
OpenAI пытается заранее встроить в Sora 2 правила, которые другим платформам часто приходилось добавлять после скандалов.
Сработает ли это идеально — вопрос открытый. Но сам подход важен: генератор видео уже нельзя выпускать как обычный творческий инструмент без социальной инфраструктуры вокруг него.
Для кого это важно
В первую очередь — для создателей контента. Sora 2 может стать быстрым способом делать короткие ролики, визуальные эксперименты, промо, раскадровки и AI-сцены без съёмочной группы.
Маркетологам и SMM-специалистам важно понимать ограничения: не всё, что можно описать в промпте, будет разрешено к генерации или публикации.
Журналистам и фактчекерам важны водяные знаки, C2PA и инструменты происхождения контента. Чем больше AI-видео будет попадать в соцсети, тем чаще придётся проверять, настоящая ли запись перед нами.
Родителям важны подростковые настройки и ограничения личных сообщений.
Юристам и правообладателям — механизмы жалоб, takedown и запрет имитации живых артистов.
А обычным пользователям — контроль над собственной внешностью и голосом.
Как попробовать
OpenAI описывает Sora 2 и Sora app как продуктовую среду для создания AI-видео. Использовать её можно было через приложение Sora и связанные продукты OpenAI, если доступ открыт для вашего региона и аккаунта.
Однако на странице OpenAI также указано, что по состоянию на 26 апреля 2026 года продукт Sora больше недоступен. Поэтому перед попыткой подключения лучше проверить актуальный статус на сайте OpenAI и в своём аккаунте ChatGPT.
Если доступ снова открыт или доступен в вашем регионе, общий порядок такой:
- Зайти на сайт OpenAI или в приложение Sora.
- Проверить, поддерживается ли ваш регион.
- Авторизоваться через аккаунт OpenAI.
- Убедиться, нужен ли платный тариф ChatGPT или отдельное приглашение.
- Создать видео по текстовому описанию или через доступные инструменты приложения.
- Перед публикацией проверить водяные знаки, права на исходные материалы и настройки приватности.
Если оплата OpenAI из вашего региона недоступна, подписку ChatGPT или доступ к сервисам OpenAI иногда покупают через маркетплейсы цифровых товаров, например через plati.market. Но здесь важно быть аккуратным: проверяйте рейтинг продавца, условия доступа и не передавайте свои основные аккаунты неизвестным людям.
Главное
Sora 2 — это не просто улучшенная видеомодель. Это попытка OpenAI объединить генерацию видео, социальную платформу и систему контроля за использованием внешности, голоса и авторского контента.
Главные меры безопасности:
- видимые и невидимые метки AI-контента;
- C2PA-метаданные;
- строгие правила для видео с реальными людьми;
- consent-based characters;
- ограничения для публичных фигур;
- отдельная защита подростков;
- фильтрация вредного контента;
- проверка аудио и музыки;
- жалобы, блокировки и удаление публикаций.
Главный вывод простой: чем реалистичнее становится генеративное видео, тем важнее не только качество модели, но и правила её использования. Sora 2 — хороший пример того, как AI-видео превращается из лабораторной технологии в полноценную медийную инфраструктуру со своими рисками, правами и ограничениями.