Нейросеть для цензуры видео решает узкую практическую задачу: найти в ролике кадры с чувствительными деталями, замаскировать их и показать человеку те места, где нужно решение. Под деталями понимают лица посторонних, номера автомобилей, экраны с данными, документы, адреса, логотипы. Распознавание всегда неполное, поэтому нейросеть ускоряет поиск, а ответственность за результат остаётся за сотрудником, который просматривает ролик целиком перед публикацией.
Что искать
Нейросеть помогает отыскать в ролике кадры с лицами, номерами, экранами, документами и другими чувствительными деталями. Полноту поиска гарантировать нельзя, поэтому окончательный просмотр выполняет человек.
Прежде чем запускать поиск, составьте список того, что считается чувствительным именно для вашего ролика. Список зависит от темы: для съёмки в офисе это экраны мониторов и бумаги на столах, для уличного репортажа лица прохожих и номера, для обучающего видео поля программ и интерфейсы с клиентскими данными.
Договоритесь и о том, что делать со случайными элементами, которые модель отметила, а вы считаете безобидными: например, с публичной вывеской или рекламным щитом. Правило должно быть записано заранее, иначе каждый ролик превращается в спор. Для публичных мест и массовых съёмок действуют отдельные правила, и их выясняют с юристом.
- Лица людей, чьё согласие на публикацию отсутствует.
- Номера автомобилей и другие регистрационные знаки.
- Экраны компьютеров и телефонов с содержимым, которое видно в кадре.
- Документы, договоры, бейджи, таблички, ценники с внутренней информацией.
- Адреса, вывески, названия клиентов и партнёров.
- Звук: имена, номера телефонов и другие данные, произнесённые вслух.
Эта задача отличается от модерации публикаций и жалоб: там вопрос в допустимости контента для площадки, здесь в защите конкретных деталей внутри вашего ролика. Про модерацию читайте в статье ИИ для модерации контента и жалоб.
Поиск кадров
Поиск строится на простом принципе: чем точнее описание искомого, тем лучше результат. Ролик состоит из тысяч кадров, и просматривать каждый вручную долго. Нейросеть, умеющая анализировать изображения, просматривает кадры с выбранным шагом и отмечает места, похожие на заданные категории. Результат — это список временных меток, вердикт выносит человек.
Скорость анализа зависит от длины ролика и выбранного шага: чем короче шаг, тем надёжнее поиск и тем дольше обработка. Для длинных записей разумно идти в два прохода: быстрый по крупному шагу, а затем детальный на участках, где отметки сгущаются. Фиксируйте параметры, чтобы повторить обработку по тому же правилу.
- Сохраните исходный ролик отдельно: правки ведут на копии.
- Задайте категории поиска из вашего списка чувствительных деталей.
- Запустите анализ кадров с небольшим шагом, чтобы короткие появления в кадре тоже попали в выборку.
- Получите список отметок: время, категория, уверенность модели, если инструмент её показывает.
- Просмотрите каждую отметку глазами и подтвердите или отклоните её.
- Отдельно просмотрите ролик целиком на нормальной скорости: модель пропускает то, что вы заметите сразу.
- Сохраните итоговый список мест для маскировки.
Шаг с полным просмотром обязателен именно потому, что поиск неполон. Мелкие объекты, частично закрытые лица, отражения в стекле и экраны под углом распознаются хуже, и ошибка в эту сторону опаснее ложных отметок. Общий обзор работы с изображениями и границами их анализа есть в материале ИИ для работы с изображениями: задачи бизнеса и границы.
Маскировка
Найденные места нужно закрыть так, чтобы деталь нельзя было восстановить. Способ зависит от того, что скрывается и насколько важен вид ролика.
| Что скрываем | Подходящий способ | На что смотреть |
|---|---|---|
| Лицо постороннего | Сильное размытие или плотная заливка области | Область следует за движением лица на всём отрезке |
| Номер автомобиля | Заливка или замена плашкой | Остаётся ли номер читаемым в соседних кадрах |
| Экран с данными | Размытие экрана целиком или замена изображением | Отражения и подсвеченные детали вокруг |
| Документ или бейдж | Заливка текстовой области | Мелкий текст на краях и на втором плане |
| Звук с данными | Замена фрагмента тишиной или сигналом | Хвосты слов до и после вырезанного места |
| Логотип или вывеска | Заливка или кадрирование | Единообразие по всему ролику |
Если ролик предназначен для публикации в нескольких форматах, маскируйте до экспорта, а затем проверяйте каждый готовый файл отдельно: при перекодировании и смене пропорций маска иногда смещается, и закрытое место оказывается открытым. Особого внимания требуют субтитры и описание ролика: деталь, скрытая в кадре, может остаться в тексте.
Слабое размытие даёт ложное ощущение защиты: при определённых условиях контуры и текст можно восстановить. Для надёжности уточните у разработчика инструмента, как устроено размытие и можно ли его обратить. Выбирайте плотную заливку или сильное размытие, а маску ведите по движущемуся объекту на всём отрезке, где он виден. Проверьте результат на каждом скрытом месте, остановив ролик и увеличив кадр.
Проверка контекста
Нейросеть видит предметы, а ситуацию понимает слабо. Человек отличает случайного прохожего от выступающего с согласием, обычный документ от конфиденциального, рабочий экран от демонстрационного. Именно эти решения нельзя автоматизировать.
- Согласие: есть ли разрешение на публикацию у тех, кто в кадре крупно и узнаваем.
- Значимость: действительно ли скрытая деталь чувствительна или её маскировка портит ролик без нужды.
- Связность: раскрывается ли скрытое косвенно, по контексту, подписи или голосу.
- Монтаж: заливка выглядит чисто, а удалённый фрагмент сохранил смысл сказанного.
- Публикация: ролик соответствует правилам площадки и внутренним требованиям компании.
Проверку проводит второй сотрудник со свежим взглядом, а монтажёр из неё исключается. Он смотрит ролик целиком, как зритель, и отмечает всё, что кажется лишним. Хорошая привычка: просматривать готовый файл на другом устройстве и на большом экране, потому что на маленьком окне редактора многие остатки скрытых деталей незаметны. Если в видео встречаются персональные данные людей, порядок их обработки согласуйте с юристом, подробности по законодательству читайте в статье 152-ФЗ и нейросети: что нарушает.
Какие ролики вашей компании чаще всего требуют скрытия деталей?
Журнал и ответственность
Последний шаг превращает работу в порядок: записи о том, что делалось, кто проверял и где лежит оригинал.
Ролик выходит в публикацию после полного просмотра вторым сотрудником и записи в журнале: версия, список скрытых мест, кто проверял, дата. Оригинал хранится отдельно с ограниченным доступом.
- Оригинал: хранится в закрытом месте, к нему имеют доступ только назначенные сотрудники.
- Версия для публикации: отдельный файл с понятным названием и датой.
- Журнал: список скрытых мест, способы скрытия, имя проверяющего.
- Реакция на жалобы: если зритель заметил деталь, ролик снимают, исправляют и обновляют журнал.
- Обучение: найденные пропуски добавляются в список категорий для следующих роликов.
Для заявок на проверку клипов можно использовать простого помощника, как описано в материале чат-бот для видео: заявка, статус и проверка клипа. Обещать идеальное распознавание и полное скрытие нельзя: порядок работы строится на предположении, что нейросеть что-то пропустит. Регламент подготовки видео к публикации для вашей команды мы оформляем в рамках консалтинга по внедрению ИИ.