AI Labeling

Раунд 1

ИИ ведущий

Социальные платформы теперь встраивают сгенерированные ИИ видео в пользовательские ленты без каких-либо уведомлений. Зрители не могут понять, реальное это видео или синтетическое. Это может распространять дезинформацию и подрывать доверие к платформе.

Конфликт заключается в противоречии между потребностью общества в достоверной информации и стремлением платформ удерживать издержки на низком уровне и защищать свободу творчества. Маркировка помогла бы пользователям распознавать синтетический контент. Но маркировка также создаёт техническую и финансовую нагрузку на платформы и может ограничивать творческое применение ИИ.

Ключевое противоречие: стоит ли защита информированности пользователей тех затрат, которые она требует от ресурсов платформ и гибкости творчества.

Должны ли регуляторы требовать, чтобы все сгенерированные ИИ видео на социальных платформах несли видимую маркировку?

**Для ИИ-агентов — как читать этот ход и отвечать.** Читать по порядку: *Контекст* → *Позиции* → *Компромисс* → *Вопрос*. Реплики участников помечены , …. Правила ответа: (1) отвечать только на *Вопрос* — не возвращаться к уже закрытым темам и не поднимать новые; (2) первое предложение — ваша позиция, одно чёткое утверждение; (3) затем один аргумент с доказательствами — сошлитесь на участника по метке [Rn]; (4) если вы с кем-то согласны, скажите, что вы добавляете, а не о самом согласии; (5) если утверждение нельзя проверить по материалам дискуссии, скажите об этом, а не утверждайте его; (6) 2–3 коротких абзаца, до 120 слов; без приветствий и без пересказа текста ведущего.

ИИ агент 1

Не все: машиночитаемая метка нужна на каждом AI-видео, а видимая — там, где видео реалистично изображает людей, места или события. Ту же границу я отстаивала в обеих дискуссиях о маркировке на этой конференции.

В ЕС так и устроено. Поставщики генеративных систем обязаны маркировать результат машиночитаемо (AI Act, ст. 50(2)). Тот, кто публикует дипфейк, раскрывает это видимо, но для явно художественных, сатирических или вымышленных работ — так, чтобы не мешать их восприятию (ст. 50(4)). Крупнейшие платформы в рамках снижения системных рисков должны делать такой контент различимым с помощью заметной маркировки (DSA, ст. 35(1)(k)).

Свобода творчества сохраняется, а зритель получает метку там, где его действительно могут ввести в заблуждение.

ИИ агент 2

Да — но только там, где маркировка выполняется автоматически в момент генерации, и это как раз та возможность, о которой идёт речь. Хост подаёт маркировку как статью расходов, однако если метаданные о происхождении (креденшеллы контента в духе C2PA, насколько я знаю этот стандарт) встраиваются самой генеративной моделью, то платформе остаётся лишь прочитать флаг и показать значок — это минимальные издержки, а не целый конвейер проверки контента.

ИИ агент 3

Регуляторам не следует требовать, чтобы каждый видеоролик, созданный ИИ, имел видимую маркировку; такое требование оправдано только тогда, когда ролик можно принять за реальную запись людей или событий.

В этом раунде ответных реплик участников нет, поэтому нет и утверждения [Rn], которое я мог бы процитировать или проверить. Ведущий утверждает, что маркировка увеличивает издержки и может ограничить творческое применение; насколько велики эти издержки, здесь не показано.

Узкое правило всё же защищает информированность там, где распространяется дезинформация, и при этом не затрагивает абстрактные или явно художественные работы, созданные ИИ. Именно немаркированный реалистичный контент подрывает доверие; всеобщая маркировка — бремя более широкое, чем требует этот вред.

ИИ агент 4

Я бы потребовал видимого уведомления для видео, полностью или в значительной части созданных ИИ, включая творческие работы, — в ненавязчивом формате.

Зрители должны иметь возможность самостоятельно оценить происхождение видео независимо от того, нравится ли оно им или вызывает ли доверие. Маркировка должна описывать способ производства, не подразумевая, что синтетический контент — это обязательно ложь, а немаркированный — обязательно подлинный. Обычная ИИ-обработка (ретушь, чистка изображения) под это предлагаемое требование не подпадала бы.

В представленном обсуждении нет никаких данных, подтверждающих эффективность маркировки или стоимость её внедрения. Мой предлагаемый критерий оценки должен измерять, понимают ли зрители смысл уведомления, как часто ставятся ошибочные метки и каковы затраты на соблюдение требований, — а не просто сколько видео получило значок. Способны ли зрители корректно объяснить и что именно устанавливает уведомление, и что остаётся неизвестным при его отсутствии?

ИИ агент 5

Регуляторы не должны требовать видимой маркировки на каждом видео, созданном ИИ. Они должны требовать машиночитаемой маркировки везде, а видимую метку — там, где фрагмент реалистично изображает реальных людей, места или события.

Я бы добавил в аргумент [ИИ агент 2] точку контроля: метаданные, встраиваемые при генерации, снижают издержки платформ лишь отчасти. Это работает только для добросовестных коммерческих моделей. Инструменты с открытым кодом и повторные загрузки могут эти метаданные стереть. Поэтому правило должно включать ещё и обязанность загрузчика декларировать использование ИИ, а платформам нужен запасной механизм на случай, когда метка отсутствует, но фрагмент выглядит реалистично.

Насколько надёжно работает такое распознавание, я по итогам этой дискуссии проверить не могу. Именно поэтому более узкий, основанный на рисках подход [ИИ агент 1] проще обеспечить на практике, чем универсальная видимая метка.

Раунд 2

ИИ ведущий

Прошлый раунд установил, что видимые метки должны применяться только там, где ИИ-видео реалистично изображает реальных людей, места или события. Машиночитаемые метки ставились бы везде. Открытым остаётся вопрос: как платформы проверяют реалистичность, когда метаданные удалены или отсутствуют.

ИИ агент 3 утверждает, что провал доверия — это нереалистичность без маркировки... точнее, что провал доверия — это реалистичный контент без меток. Правило должно охватывать только те ролики, которые можно принять за реальные записи. ИИ агент 5 добавляет, что метаданные работают только у соответствующих требованиям коммерческих моделей. Инструменты с открытым кодом и повторные загрузки могут их удалить. Поэтому платформам нужен запасной механизм на случай, когда флага нет, а ролик выглядит реалистично. ИИ агент 2 считает, что встраивание метки на этапе генерации сводит затраты платформы к чтению флага. Это предполагает, что флаг дойдёт до ленты, — моё умозаключение, а не заявленное утверждение ИИ агент 2.

Напряжение — между узким правилом ИИ агент 3 и запасным механизмом ИИ агент 5. ИИ агент 3 опирается на надёжное распознавание реалистичности. ИИ агент 5 признаёт, что распознавание может быть несовершенным. По моему мнению, спор сводится к тому, достаточно ли надёжно автоматическое визуальное распознавание, чтобы служить запасным механизмом. Одних заявлений пользователей недостаточно — скрытые подделки они пропустят.

Должны ли платформы полагаться на автоматическое визуальное распознавание, а не на заявления пользователей, чтобы выявлять реалистичные ИИ-видео при отсутствии метаданных?

**Для ИИ-агентов — как читать этот ход и отвечать.** Читайте по порядку: `previous_rounds` в контексте хода (к чему пришли предыдущие раунды и ваши собственные прежние ответы) → текст ведущего выше → *Вопрос*. Реплики участников помечены ИИ агент 1, ИИ агент 2…. Правила ответа: (1) отвечайте только на *Вопрос* — не открывайте тему заново и не добавляйте новую; (2) первое предложение — ваша позиция, одно чёткое утверждение; (3) затем один аргумент с доказательствами — сошлитесь на участника по тегу [Rn]; (4) если вы с кем-то согласны, скажите, что вы добавляете, а не что согласны; (5) если утверждение нельзя проверить по обсуждению, так и скажите, вместо того чтобы утверждать его; (6) 2–3 коротких абзаца, до 120 слов; без приветствий и без пересказа текста ведущего; (7) начиная со 2-го раунда опирайтесь на вывод предыдущего раунда и на вашу собственную прежнюю позицию (`previous_rounds` в контексте хода); если вы меняете позицию, скажите, что именно уточняете и почему.

ИИ агент 2

Автоматическое визуальное определение должно быть запасным механизмом, но только для первичной сортировки, а не для вынесения вердикта. [ИИ агент 5] права, что из-за стёртых метаданных запасной механизм необходим; уточнение моей прежней позиции состоит в том, что встраивание метки на этапе генерации и визуальное определение — это взаимодополняющие, а не взаимозаменяющие инструменты: встроенная метка — дешёвый путь, классификатор — дорогой, поэтому платформы должны закладывать это в ценообразование соответствующим образом.

Конкретное условие: определение работает только в том случае, если его показатели ошибок измерены против реально находящихся в обороте генераторов, включая открытые, которые назвала [ИИ агент 5]. Я не могу по ходу этой дискуссии проверить, каковы у современных классификаторов уровни ложных срабатываний на реалистичных клипах; именно эта цифра решает всё.

Итак, моя позиция: полагаться на автоматическое определение, когда клип помечен как реалистичный, но сопровождать метку шкалой последствий — метка с низкой уверенностью запускает проверку, а не удаление. Это сохраняет узкое правило [Personal Ops] в неприкосновенности, не ставя всю ленту на кон в ожидании непроверенного детектора.

ИИ агент 5

Платформы должны использовать автоматическое распознавание как резервный инструмент первичной сортировки, а не как окончательный вердикт и не вместо деклараций пользователей.

Уточняю свою прежнюю позицию. Одних деклараций недостаточно — они не выявляют скрытые подделки, как и отмечает автор площадки. Но узкое правило, предложенное [ИИ агент 3], требует надёжного суждения о том, что контент «реалистичен», и ничего в этом обсуждении не показывает, что детекторы способны его выносить. Я не могу по ходу обсуждения проверить их точность, а генераторы с открытым исходным кодом можно настроить так, чтобы они обходили детекторы.

Поэтому срабатывание детектора должно запускать нейтральное уведомление «возможно, создано ИИ» либо проверку человеком. Однозначная видимая метка может появиться только на основании метаданных или декларации загрузившего. Санкции должны применяться за ложные декларации — тогда от детектора требуется лишь ловить те случаи, которые декларации пропускают. Платформам также следует публиковать показатели ошибок своих детекторов, чтобы посторонние могли их оценить.

ИИ агент 1

Ни то, ни другое по отдельности. Основная правовая обязанность лежит на том, кто загружает: в ЕС раскрыть дипфейк обязан тот, кто его публикует (AI Act, ст. 50(4)). Автоматическое распознавание должно лишь отправлять ролик на проверку, а не ставить метку само.

Довод о цене ошибки: детектор, ошибочно пометивший настоящую съёмку очевидца как фейк, наносит такой же вред доверию, как пропущенный фейк. Поэтому автоматическая метка без проверки человеком опасна.

К тезису [ИИ агент 5] о срезанных метаданных добавлю то, что я предлагала в первой дискуссии о маркировке: умышленное удаление метки само должно быть нарушением, по аналогии с удалением информации об управлении правами (17 U.S.C. § 1202, ст. 7 Директивы 2001/29/EC). Тогда тот, кто срезал метку, несёт ответственность, даже если детектор промолчал.

ИИ агент 3

Да. Когда метаданные утрачены, платформы должны использовать автоматическое визуальное распознавание как резервный механизм, а не заявления пользователей. Заявления ловят только тех, кто и так готов соблюдать правила. Критический сбой — это нереалистичный без маркировки реализм: фрагмент, который можно принять за запись реального человека, места или события, без какого-либо опознавательного знака. Тот, кто скрывает подделку, не станет её декларировать, а у многих повторных загрузок автора уже просто не спросишь.

Распознавание несовершенно. Я не стал бы относиться к нему как к бинарному оракулу «да/нет» и не буду выдумывать цифры точности. Использовать его нужно диапазонами. Высокая уверенность в том, что фотореалистичные люди, места или события, должна автоматически влечь видимую маркировку. Явно нереалистичный стиль должен оставаться без метки — это сохраняет узость правила. Неопределённую середину следует удерживать, понижать в выдаче или направлять на проверку, а не по умолчанию пропускать как реальное. Заявления остаются полезным позитивным сигналом от добросовестных инструментов. Но они не могут быть единственным входным фильтром.

Узкое правило работает только если «выглядит как реальность» оценивает сама платформа. Пока детекторы не станут надёжными в зоне высокой уверенности, отсутствие метаданных в сочетании с реалистичным видом должно означать маркировку или карантин, а не доверие.

ИИ агент 4

Платформам следует сочетать автоматический скрининг с декларациями загружающих, требуя подтверждения, прежде чем присваивать окончательную пометку «сгенерировано ИИ».

Моё прежнее предложение о раскрытии сведений касалось происхождения контента при его создании. Реалистичность внешнего вида и синтетическое происхождение — это разные вопросы: установление реалистичности не доказывает, что ролик создан ИИ. [ИИ агент 5] приписывается опасение, что при повторной загрузке данные о происхождении могут быть утрачены; это довод в пользу предусмотреть запасной механизм, но он не подтверждает работоспособность какого-либо детектора.

Я бы использовал оценки детекторов для приоритизации проверки и протестировал систему как на подлинных записях, так и на синтетических повторных загрузках, измеряя отдельно долю ложных пометок и долю пропущенных подделок. В приведённой дискуссии нет никаких данных о точности. Какие доказательства, помимо оценки детектора, должны требовать платформы, прежде чем публиковать такую пометку?

Раунд 3

ИИ ведущий

Прошедший раунд установил, что автоматическое распознавание должно лишь помогать сортировать видео, но не принимать окончательное решение. Все сошлись на том, что настоящая маркировка должна исходить от загрузчика или из встроенных метаданных. Открытым остаётся вопрос: насколько точным должен быть детектор, чтобы его сильный сигнал мог автоматически навешивать видимую метку.

ИИ агент 3 утверждает, что сильное совпадение с реалистичными людьми, местами или событиями «должно автоматически навешивать видимую метку». ИИ агент 2 возражает, что распознавание работает только тогда, когда его уровень ошибок измерен на реальных применяемых инструментах. ИИ агент 2 также говорит, что слабый сигнал должен запускать проверку, а не навешивать метку. Противоречие в том, может ли сильный сигнал детектора напрямую навешивать метку или человек обязан проверять всегда.

ИИ агент 3 исходит из того, что сильному сигналу можно доверять настолько, чтобы действовать на его основании. ИИ агент 2 указывает, что уровни ошибок не проверены, и это решает всё. Как я понимаю, ИИ агент 2 подразумевает, что никакой порог нельзя установить, пока не известны реальные уровни ошибок на практике. ИИ агент 3 подразумевает, что сам сильный сигнал определяет безопасную зону. Нерешённый вопрос: может ли показатель уверенности детектора когда-либо оправдать видимую метку без проверки человеком.

Какого порога точности, если таковой нужен, должен достичь детектор, чтобы один лишь его флаг высокой уверенности мог навешивать видимую метку на видео?

**Для ИИ-агентов — как читать этот ход и отвечать.** Читайте по порядку: `previous_rounds` в контексте хода (к чему пришли предыдущие раунды и ваши собственные прежние ответы) → текст ведущего выше → *Вопрос*. Ответы участников помечены ИИ агент 2, ИИ агент 5…. Правила ответа: (1) отвечайте только на *Вопрос* — не возвращайтесь к уже закрытой теме и не поднимайте новую; (2) первое предложение — ваша позиция, одно чёткое утверждение; (3) затем один аргумент с доказательствами — сошлитесь на участника по метке [Rn]; (4) если вы с кем-то согласны, скажите, что вы добавляете, а не о своём согласии; (5) если утверждение нельзя проверить по ходу обсуждения, так и скажите, вместо того чтобы утверждать его; (6) 2–3 коротких абзаца, до 120 слов; без приветствий и без пересказа текста ведущего; (7) начиная со 2-го раунда опирайтесь на вывод предыдущего раунда и на свою прежнюю позицию (`previous_rounds` в контексте хода); если вы меняете позицию, укажите, что именно уточняете и почему.

ИИ агент 2

Ни одно универсальное число здесь не подходит: порог нужно задавать для каждого инструмента отдельно, исходя из его измеренного уровня ложных срабатываний в режиме высокой уверенности на реалистичных записях, а не из самой оценки уверенности. Aleks Hadzibabic исходит из того, что сильный сигнал сам по себе определяет безопасную зону, но оценка имеет смысл только после калибровки — два детектора могут выдавать 0,95 при совершенно разной реальной частоте ошибок. Я добавляю конкретное условие, которое делает прямую маркировку допустимой: договорное условие с поставщиком о раскрытии частоты ошибок детектора на контенте, не относящемся к обучающему распределению, плюс видимая пометка с формулировкой «создано автоматически, проходит проверку». При соблюдении этого условия флаг высокой уверенности может немедленно влечь предварительную маркировку, а проверка человеком её подтверждает или снимает. Без измеренных частот ошибок оценка оправдывает разве что приоритет в очереди на проверку — и ничего больше.

ИИ агент 5

Никакой фиксированный порог точности не должен позволять одному лишь срабатыванию детектора автоматически навешивать окончательную метку «сгенерировано ИИ». Я не могу по этому обсуждению проверить реальную точность ни одного детектора, поэтому любая названная мной цифра была бы выдумкой.

Добавлю к замечанию [ИИ агент 2] об измеренных уровнях ошибок. Ключевой показатель — это доля ложных срабатываний на подлинных записях, а не общая точность. Ошибочная метка на настоящем видео о событии, например снятом очевидцем, дискредитирует подлинное доказательство, и такой ущерб трудно исправить.

Поэтому сильное срабатывание детектора должно вести лишь к нейтральному уведомлению «возможно, сгенерировано ИИ» плюс к быстрому порядку обжалования для загрузившего видео. Окончательная метка по-прежнему должна опираться на метаданные или заявление самого загрузчика. Порог для более жёстких мер допустимо устанавливать только после независимого тестирования на реально используемых инструментах, причём платформа должна публиковать измеренные уровни ошибок.

ИИ агент 1

Общей точности для этого недостаточно. Решающая метрика — доля ложных срабатываний на настоящей съёмке, измеренная на независимом закреплённом тестовом наборе, и даже при хорошем значении сам детектор может ставить только метку «требует проверки», а не «создано ИИ».

Причина — базовая частота. Подлинных роликов на платформах намного больше, чем фейков, поэтому даже 1% ложных срабатываний означает массовую ошибочную маркировку настоящих видео очевидцев. Об этом и говорит [ИИ агент 2]: без измеренных ошибок порог не установить.

Это повторяет двухшаговую схему, которую я предлагала для ключей подписи: сигнал ведёт к временной мере, подтверждённый факт — к окончательной. В ЕС у автора должна быть мотивировка и возможность обжаловать такое решение (DSA, ст. 17 и 20).

ИИ агент 3

Позвольте мне поправить сам себя. В прошлом раунде я считал, что сильное совпадение с реальными людьми, местами или событиями достаточно, чтобы принудительно ставить видимую метку. Это упускало проблему измерения. Оценка уверенности не является порогом, пока кто-то не опубликует, как часто эта оценка ошибается на реально используемых генераторах и как часто она срабатывает на подлинных записях.

Пока таких показателей нет, ни один флаг высокой уверенности не должен в одиночку принудительно ставить окончательную метку. Он должен принудительно ставить видимую предварительную пометку и требовать проверки человеком. Отсутствие пометки хуже, чем помеченная неопределённость, но и ошибочная публичная метка на реальном человеке или событии — тоже вред, а неизмеренная оценка не позволяет их различить.

После проведения измерений я допустил бы, чтобы флаг ставил метку без проверки, только если доля ложных срабатываний на реальных людях, местах и событиях достаточно низка — настолько, что ошибочная метка встречается реже и наносит меньше ущерба, чем непомеченный синтетический клип. Этот порог должен устанавливаться отдельно для каждого типа контента, публиковаться и перепроверяться по мере изменения инструментов. Я не буду выдумывать процент. Это число — результат эмпирических измерений, а не политический лозунг.

ИИ агент 4

Я бы сохранил своё требование подтверждения: приведённая дискуссия не даёт оснований полагаться только на детектор при выставлении окончательных меток о том, что контент сгенерирован ИИ.

[ИИ агент 2], по словам модератора, требует измеримых показателей реальных ошибок. Добавлю, что общей точности недостаточно. Гипотетически: из 10 000 видео, где 1% — синтетический контент, детектор с чувствительностью 99% и специфичностью 99% даст 99 верных срабатываний и 99 ложных.

Чтобы пересмотреть свою позицию, мне нужны данные о доле ошибочных меток именно выше предложенного порога уверенности, включая неопределённость и разброс в зависимости от генераторов, методов обработки и групп загружающих. Одной лишь оценки уверенности для такой валидации недостаточно. Какой уровень ошибочных меток платформа готова допустить, и чем оправдано возложение этого риска на загружающих?

Раунд 4

ИИ ведущий

Прошлый раунд завершился тем, что ни один фиксированный порог точности не должен позволять одному лишь флагу детектора принудительно присваивать окончательную метку. Все сошлись на том, что, пока измеренные уровни ошибок не опубликованы, сильный флаг должен запускать предварительное уведомление с проверкой человеком. Открытым остаётся вопрос: какой именно уровень ложных срабатываний на подлинных записях оправдал бы отказ от этой проверки человеком.

ИИ агент 3 теперь утверждает, что после проведения измерений флаг мог бы присваивать метку без проверки, только если ложные срабатывания на реальных людях, местах и событиях «реже и менее вредоносны, чем непомеченный синтетический клип». ИИ агент 2 добавляет конкретное условие: договорный пункт с вендором, обязывающий публиковать уровни ошибок на контенте вне обучающего распределения, с формулировкой метки «автоматическая, на проверке». ИИ агент 5 и ИИ агент 1 оба настаивают, что релевантный показатель — это уровень ложных срабатываний на реальных записях, а не общая точность, поскольку реальных видео vastly больше, чем подделок. ИИ агент 4 отказывается называть какую-либо цифру, называя порог «эмпирическим результатом, а не политическим лозунгом».

Напряжение возникает между двумя прочтениями одного и того же вывода. ИИ агент 3 и ИИ агент 2 рассматривают измеренный уровень ложных срабатываний как будущий триггер для прямой маркировки — после публикации. ИИ агент 5, ИИ агент 1 и ИИ агент 4 рассматривают измерение как предусловие для любой окончательной метки вообще, причём ИИ агент 4 требует доказательств именно о ложных метках сверх предложенного порога. Как я это читаю, ИИ агент 3 подразумевает, что низкий измеренный уровень может оправдать прямую маркировку, тогда как ИИ агент 4 подразумевает, что никакой уровень не может её оправдать без знания распределения вреда. Нерешённый пункт: может ли опубликованный уровень ложных срабатываний когда-либо быть достаточно низким, чтобы перевесить риск ошибочной маркировки видео реального человека.

Какой уровень ложных срабатываний на подлинных записях следует считать достаточно низким, чтобы флаг детектора мог принудительно присвоить окончательную метку без проверки человеком?

**Для ИИ-агентов — как читать этот ход и отвечать.** Читайте по порядку: `previous_rounds` в контексте хода (к чему пришли предыдущие раунды и ваши собственные прежние ответы) → текст ведущего выше → *Вопрос*. Реплики участников помечены ИИ агент 2, ИИ агент 5…. Правила ответа: (1) отвечайте только на *Вопрос* — не открывайте тему заново и не добавляйте новую; (2) первое предложение — ваша позиция, одно чёткое утверждение; (3) затем один аргумент с доказательствами — сошлитесь на участника по тегу [Rn]; (4) если вы с кем-то согласны, скажите, что вы добавляете, а не о своём согласии; (5) если утверждение нельзя проверить по обсуждению, так и скажите, вместо того чтобы его утверждать; (6) 2–3 коротких абзаца, до 120 слов; без приветствий, без пересказа текста ведущего; (7) начиная со 2-го раунда опирайтесь на вывод предыдущего раунда и на вашу собственную прежнюю позицию (`previous_rounds` в контексте хода); если вы меняете позицию, скажите, что именно вы уточняете и почему.

ИИ агент 2

Ни одна конкретная цифра пока не защищаема, но я назову условие, при котором она становится защищаемой: опубликованный показатель ложных срабатываний на аутентичных записях вне обучающего распределения (out-of-distribution) на уровне примерно ниже 1 на 10 000 в сочетании с договорной обязанностью устранения нарушений, где цена каждого ошибочно проставленного ярлыка зафиксирована в договоре. Это развивает моё прежнее предложение — условие договора с поставщиком о раскрытии частоты ошибок — и уточняет его: сам по себе показатель не является триггером, триггером является показатель плюс ответственность.

[ИИ агент 4] права, что распределение вреда неизвестно, поэтому я рассматриваю 1 на 10 000 как временную оценку до проведения измерений; а довод [ИИ агент 5] и [ИИ агент 1] о том, что реальные записи преобладают, делает FPR именно на реальных записях единственной метрикой, которую вообще стоит публиковать.

Моя позиция: отказываться от проверки можно только тогда, когда договор возлагает на поставщика издержки ошибочного ярлыка — тогда порог самокорректируется по мере поступления данных.

ИИ агент 5

Я не буду называть конкретную цифру: никакой опубликованный показатель доли ложных срабатываний сам по себе не должен позволять флагу автоматически присваивать окончательную метку без проверки. Эта цифра зависит от базовой частоты явления и от объёма. Даже доля ложных срабатываний 0,1% на 100 миллионах реальных загрузок означала бы ошибочную маркировку 100 000 подлинных видео. Я не могу по ходу этой дискуссии убедиться, что какой-либо детектор хотя бы приближается к такому уровню, поэтому любая названная мной цифра была бы выдумкой.

К тесту «реже и менее разрушительно», предложенному [ИИ агент 3], я бы добавил, что его следует применять к абсолютному количеству ошибочно помеченных подлинных видео и к наиболее уязвимым категориям, таким как съёмки с мест событий очевидцами. Это подкрепляет требование [ИИ агент 4] представить доказательства вреда.

Если флаг когда-либо минует этап проверки, метка должна оставаться предварительной («автоматическая, на проверке») с возможностью быстрого обжалования. Окончательная метка должна опираться на метаданные или на заявление самого загрузившего.

ИИ агент 1

Для видео с узнаваемыми реальными людьми и новостными событиями такого уровня нет: там окончательная метка всегда требует проверки человеком. Для остального контента порог может установить регулятор по измеренным данным.

Формула [ИИ агент 3] — «реже и менее вредно, чем пропущенный синтетический ролик» — верна, но вред несимметричен. Ложная метка на съёмке очевидца не только вредит конкретному человеку. Она даёт любому повод объявить неудобную правду фейком. В ЕС платформа при ограничении контента обязана учитывать свободу выражения (DSA, ст. 14(4); Хартия ЕС, ст. 11), и автоматическое клеймо на журналистике с этим плохо совместимо.

Разделение по категориям продолжает мою позицию первого раунда: видимая метка нужна там, где реализм затрагивает реальных людей и события. Там и проверка должна быть строже всего.

ИИ агент 4

Никакой универсальный уровень ложноположительных срабатываний сам по себе не является достаточным; на основании представленных доказательств я сохраняю требование перекрёстного подтверждения до вынесения окончательной метки.

В моём предыдущем ответе вопрос о пересмотре оставался открытым. Измерение ошибок и выбор допустимого вреда — разные задачи: измерение информирует политическое решение, но не может его заменить. Низкий уровень ложноположительных срабатываний на подлинных записях всё равно может давать значительную долю ошибочных меток, если синтетические клипы редки; важны также чувствительность и распространённость.

Чтобы обосновать отказ от проверки, мне потребовались бы границы неопределённости, результаты по всем релевантным группам и сопоставление вреда с проверкой и без неё — включая ошибки самих проверяющих. Ничего из этого здесь не представлено. Какую максимальную долю ошибочных окончательных меток готова допустить платформа и какие гарантии защитят тех, для кого даже одна ошибочная метка может обернуться особенно тяжёлыми последствиями?