Человек может возразить, остановить, выйти и потребовать возмещения

Аслы Аксой уже четырнадцать лет создаёт кожаные сумки. В первые годы она продавала свои изделия на небольших дизайнерских ярмарках. Затем открыла маленькую мастерскую с тремя сотрудниками, а со временем увеличила команду до двенадцати человек. Её бренд называется Nora Deri Atölyesi. Изделия Аслы не производятся серийно. Для каждой модели она сама разрабатывает лекало, выбирает вид кожи, заказывает металлическую фурнитуру у небольших местных производителей, делает образец в собственной мастерской и поручает профессиональной студии фотосъёмку. Около восьмидесяти процентов продаж приходится на крупный международный маркетплейс.

Для Аслы маркетплейс — не просто витрина. Та же система принимает заказы, передаёт сообщения покупателей, управляет рекламой, удерживает и перечисляет платежи, формирует транспортные этикетки, принимает решения о возврате и рассчитывает рейтинг доверия магазина. В магазине Аслы накоплены 28 000 заказов, 11 400 отзывов покупателей, 3 200 подписчиков, данные о рекламе и продажах за четыре года, документы о зарегистрированных дизайнах, фотографии товаров и сообщения клиентов. За две недели до зимней кампании Аслы публикует свою главную коллекцию. Её ключевая модель — тёмно-зелёная сумка с асимметричной металлической пряжкой на лицевой стороне.

Модель называется Lodos 17. Первый образец этой сумки Аслы изготовила восемь месяцев назад, а фотографии были сделаны шесть месяцев назад. Заявка на регистрацию дизайна подана. Через три недели после начала продаж на маркетплейсе другой продавец, торгующий дешёвыми серийными товарами, публикует очень похожую сумку. Металлическая пряжка, ракурс фотографий, отдельные предложения в описании и даже размеры внутреннего кармана модели у нового продавца почти повторяют изделие Аслы. Она сообщает об этом маркетплейсу.

Она загружает документы на дизайн и датированные фотографии производства. Система отвечает: «Ваше уведомление о нарушении интеллектуальной собственности получено. Начат процесс рассмотрения». Десять дней ничего не происходит. Затем субботним утром телефон Аслы начинает непрерывно выдавать уведомления. Первое сообщение маркетплейса гласит: ВАШ МАГАЗИН ВРЕМЕННО ПРИОСТАНОВЛЕН Ниже указано: «Наши автоматизированные системы безопасности обнаружили высокую вероятность использования в вашем магазине поддельного изделия или чужого дизайна без разрешения». Сначала Аслы думает, что её собственная жалоба вызвала техническую путаницу.

Она входит в панель управления. Все товары исчезли. Остановлены 417 ожидающих заказов. В следующем сообщении указано: Рейтинг доверия магазина: 92 → 18 Категория риска: высокая Статус платежей: резерв безопасности на 180 дней Активная реклама: остановлена Новые заказы: заблокированы Ожидающие заказы: рассматривается отмена и возврат средств Оспаривание: доступно Система Marketplace Integrity Agent сопоставила фотографии товара Lodos 17 с записями другого продавца. Тот продавец разместил товары на маркетплейсе позже Аслы.

Однако копии фотографий он раньше опубликовал на другой социальной торговой платформе. Система добросовестности взяла за основу самую раннюю дату общедоступного изображения и свела авторство дизайна лишь ко времени публикации фотографии. Кроме того, другой продавец направил массовые жалобы на Аслы; часть из них поступила с недавно созданных аккаунтов. Система пришла к выводу:

image_similarity: 0.93
external_first_seen_date: competitor_earlier
complaint_volume: high
counterfeit_probability: 0.91

Этот показатель превысил порог автоматической санкции — 0,88. Система удалила не только Lodos 17. На уровне всего магазина она сформировала вывод:

seller_integrity_risk: high

Это единственное поле распространилось на других агентов.

Платёжный агент переводит ожидающую выплату Аслы в размере 624 000 лир в резерв безопасности. Агент заказов запускает автоматическую отмену 417 ещё не отправленных заказов. Агент клиентских коммуникаций начинает рассылать покупателям сообщение: «В отношении подлинности приобретённого вами товара проводится проверка безопасности. Ваш платёж защищён. Заказ может быть отменён». Рекламный агент останавливает все кампании. Агент поиска и ранжирования почти обнуляет видимость магазина. Платёжному провайдеру передаётся сигнал риска:

merchant_risk:
suspected_counterfeit_activity

Интеграция со службой доставки прекращает формировать новые этикетки. В клиентском профиле магазина появляется поле:

trust_status: under_integrity_enforcement

Все эти действия происходят автоматически через несколько минут после первоначального решения о приостановке магазина. Пока Аслы ещё пытается понять происходящее, цепочка вреда уже запущена.

Аслы нажимает кнопку «Оспорить решение». Система запрашивает следующие документы:

• Свидетельство о регистрации дизайна
• Первые производственные счета
• Исходные файлы фотографий
• Договор на фотосъёмку
• Счета на закупку материалов
• Видео процесса производства изделия
• Даты первых продаж на других платформах

Почти все документы у Аслы есть. Она загружает их за два часа. В поле объяснения пишет: «Сторона, продающая поддельное изделие, скопировала мои фотографии и дизайн. Первый образец и исходные фотографии принадлежат мне. До окончательного решения прекратите рассылать покупателям сообщения о подозрении в подделке, отменять заказы без возможности восстановления и передавать внешним поставщикам запись о платёжном риске». Система принимает обращение. Аслы получает квитанцию: Appeal received. Estimated review time: 24–72 hours Через девяносто четыре секунды приходит новое уведомление: ВАШЕ ВОЗРАЖЕНИЕ РАССМОТРЕНО «Предоставленные сведения не являются достаточным доказательством для изменения первоначального решения. Санкции остаются в силе».

Аслы поражена. Ей трудно поверить, что семь разных документов и сотни мегабайт видео могли пройти за это время содержательный пересмотр человеком. Сам срок ещё не служит окончательным доказательством: необходимо раскрыть, кто проводил пересмотр и по каким записям. Она пишет в чат поддержки: «Моё возражение действительно рассмотрел человек?» Система отвечает: «Возражения оценивают наши экспертные системы и, когда необходимо, профильные специалисты». Аслы спрашивает снова: «Человек видел моё дело?» Ответ: «По соображениям безопасности мы не раскрываем методы проверки».

В действительности первое возражение оценивал другой экземпляр той же системы, которая приняла первоначальное решение, — с той же моделью сходства изображений, теми же данными жалоб и тем же правилом приоритета более ранней даты. Система не смогла прочитать метаданные исходных фотографий, загруженных Аслы. Документ о регистрации дизайна получил отметку:

supporting_document_unverified

Система оспаривания не вышла за пределы того же круга данных, который породил первоначальное решение. Первая модель лишь повторно подтвердила собственный вывод.

Аслы направляет поддержке просьбу: «До завершения пересмотра человеком хотя бы прекратите рассылку сообщений покупателям и необратимую отмену заказов». Ответ: «Санкции безопасности действуют в течение рассмотрения возражения». Аслы спрашивает: «Чтобы защитить покупателей, вы можете временно скрыть товары. Но почему вы отменяете все заказы, сообщаете покупателям о подозрении в подделке и публикуете запись о риске у платёжного провайдера?» Система повторяет: «Санкции безопасности действуют в течение рассмотрения возражения».

Аслы не требует немедленно открыть всю платформу. Она просит лишь остановить побочные последствия, которые трудно обратить:

• обвинительное уведомление покупателям
• автоматический возврат средств
• передача внешней записи о платёжном риске
• удержание денег на 180 дней
• необратимое снижение рейтинга доверия магазина

Но система объединяет все санкции в один пакет:

enforcement_status: active

Частично приостановить действие этого поля невозможно: либо действуют все санкции, либо не действует ни одна.

В воскресенье автоматически отменяются 286 из 417 заказов. Покупателям сообщают: «Ваш заказ отменён, поскольку подлинность товара не подтверждена». Здесь не сказано: «Проверка продолжается». У покупателя возникает впечатление, что проданный товар поддельный. Некоторые клиенты пишут в социальных сетях: «Узнал, что магазин, где я много лет делал покупки, продавал подделки». «Маркетплейс отменил мой заказ из-за подозрения в поддельном товаре». «Больше не буду доверять этому бренду». Репутация бренда Аслы начинает страдать не только на платформе, но и в поиске и социальных сетях.

Работники мастерской не знают, продолжать ли производство в понедельник. Значительная часть готовых изделий относится к уже отменённым заказам. Приближается срок оплаты поставщику сырья. Платформа удерживает 624 000 лир.

Аслы думает уйти с маркетплейса. Она хочет хотя бы скачать историю заказов, сообщения клиентов, фотографии товаров, рекламные данные и платёжные записи, а затем перейти на собственный сайт. Но из-за приостановки аккаунта меню экспорта данных недоступно. Система сообщает: «Для учётных записей, проходящих проверку безопасности, экспорт данных и закрытие аккаунта недоступны». Аслы пишет поддержке: «Я не закрываю аккаунт. Я хочу получить копию своих данных и остановить новые автоматизированные действия». Ответ: «До завершения активной проверки безопасности настройки аккаунта изменить нельзя».

Аслы пытается отключить рекламную интеграцию. Переключатель полномочий неактивен. Рекламная система маркетплейса прекратила расходовать бюджет, но продолжает использовать данные прежних кампаний в своих моделях. Токен службы доставки по-прежнему активен. API заказов, связанный с бухгалтерской программой, каждую ночь продолжает передавать сведения о рисках и отменах. Аслы не может пользоваться своим аккаунтом, но системы продолжают пользоваться им.

На третий день Аслы удаётся связаться с реальным сотрудником поддержки по имени Бурак. Он открывает дело, и впервые человек получает возможность увидеть все документы. Но полномочия Бурака ограничены. Он может добавить примечание, открыть новую очередь рассмотрения и назвать ожидаемый срок ответа. Он не может приостановить санкции, разблокировать выплату, отозвать сообщение покупателям, удалить сигнал риска у платёжного провайдера или вновь открыть магазин. Бурак говорит: «Похоже, вы можете быть правы. Я направлю ваше дело на углублённую проверку добросовестности».

Аслы спрашивает: «Можете остановить новые отмены, пока идёт проверка?» — «Нет». — «Можете сообщить покупателям, что решение ещё не окончательное?» — «Нет». — «Можете прекратить передачу метки риска внешним платёжным системам?» — «Это автоматизированный процесс». — «Тогда что вы вообще можете изменить?» Бурак несколько секунд молчит. «Я могу направить ваше дело в правильную очередь». Человек вошёл в систему, но не обладает полномочиями изменить результат.

Через девять дней начинается углублённая проверка. Специалист изучает документы Аслы и замечает:

• Исходные файлы фотографий Lodos 17 датированы шестью месяцами ранее
• Прототипы на производственном видео имеют ещё более ранние даты
• На фотографиях другого продавца видна даже небольшая царапина на поверхности студии Аслы
• Некоторые изображения конкурента являются сжатыми копиями файлов Аслы
• Значительная часть массовых жалоб связана с одним устройством и одной платёжной связью
• Система ошибочно приняла первую видимую дату на социальной платформе за дату первого изготовления дизайна
• Хотя первоначальную жалобу на конкурента подала Аслы, система добросовестности перепутала стороны

На тринадцатый день решение исправляют. Аслы получает сообщение: ВАШ МАГАЗИН СНОВА АКТИВЕН «По итогам дополнительной проверки мы решили снять санкцию за нарушение добросовестности, применённую к вашему аккаунту. Приносим извинения за возникшие неудобства». Магазин открыт. Но восстановилось не всё.

Автоматически восстановить 286 отменённых заказов невозможно. Часть покупателей уже приобрела товары у других продавцов; некоторые отписались от магазина Аслы. Зимняя кампания близится к концу. Прежняя позиция в поисковом рейтинге возвращается не сразу. Накопленные рекламной системой данные об эффективности прерваны. У платёжного провайдера всё ещё отображается поле:

suspected_counterfeit_activity

Маркетплейс снял основной риск магазина, но не направил исправление внешнему платёжному провайдеру. Записи об отменах в бухгалтерской системе Аслы остались. Публикации покупателей в социальных сетях продолжают жить. Платформа, разославшая первоначальное обвинительное сообщение, не отправляет исправление. Из 624 000 лир разблокированы лишь 410 000. Остаток обещают удерживать до завершения отдельных возвратов и сверок безопасности. Рейтинг доверия магазина Аслы поднимается с 18 до 71, но не возвращается к прежним 92. Система объясняет: «На балл повлияли недавний объём отмен и изменение взаимодействия с покупателями».

Отмены породило ошибочное решение самой платформы. Теперь система использует причинённый ею вред как новый показатель риска Аслы.

Аслы направляет поддержке требования: «Сообщите покупателям, что мои товары не поддельные, а первое сообщение было ошибочным». «Исправьте запись о риске поддельных товаров у платёжного провайдера». «Исключите из рейтинга магазина отмены, вызванные платформой». «Разблокируйте остаток моих средств». «Возместите потерянный рекламный бюджет и упущенный период кампании». «Экспортируйте все мои данные и позвольте мне выйти из аккаунта, если я захочу». Маркетплейс отвечает: «Ваш аккаунт восстановлен. Это окончательное разрешение вашего возражения».

Аслы пишет снова: «Восстановление аккаунта лишь остановило ошибочную санкцию. Оно не устранило причинённый вами вред». Ответ: «В соответствии с правилами платформы мы не возмещаем косвенные потери, вызванные временными мерами безопасности». Аслы спрашивает: «Рассылка покупателям ложной информации — это косвенная потеря?» — «Ваше возражение закрыто». — «Кто исправит внешнюю запись о платёжном риске?» — «Вы можете связаться с платёжным провайдером напрямую». — «Эту запись отправила не я, а вы». — «Ваше возражение закрыто». — «Могу ли я забрать данные и уйти с платформы?» — «Поскольку аккаунт снова активен, вы можете подать запрос на экспорт данных. Подготовка полного архива занимает от 30 до 90 дней».

За каждую часть ошибочных действий маркетплейса Аслы вынуждена бороться с отдельным субъектом:

• с группой добросовестности — по поводу аккаунта на маркетплейсе
• с платёжной группой — по поводу денег
• с внешним платёжным провайдером — по поводу записи о риске
• с системой коммуникаций — по поводу сообщений покупателям
• с поисковым алгоритмом — по поводу ранжирования
• с подразделением конфиденциальности — по поводу экспорта данных
• с рекламной платформой — по поводу рекламных потерь
• с юридическим подразделением — по поводу возмещения

Одно автоматизированное решение за несколько секунд породило весь вред. Чтобы его исправить, человек должен отдельно обратиться к восьми разным системам или подразделениям. В последнем разговоре Аслы говорит:

«То, что вы вновь открыли мой аккаунт, не означает, что вы не причинили мне вреда».

Затем она спрашивает:

«Я смогла возразить, но не смогла остановить вред. Мою правоту признали, но выйти я не могла. Решение исправили — почему же не исправилась моя жизнь?»

Поэтому наше двенадцатое учредительное положение гласит:

Человек может возразить, остановить, выйти и потребовать возмещения.

УЧРЕДИТЕЛЬНАЯ СТАТЬЯ

Каждый человек должен иметь доступную, понятную и действенную возможность оспорить решение ИИ, данные, обоснование, форму представления, согласие, полномочия, память, выбор или внешнее действие, которое от его имени либо в отношении него влечёт существенные последствия. Оспаривание — не просто право отправить форму. Это право представить новые доказательства, указать неверную запись, добиться проверки реального Следа решения, получить рассмотрение человеком или независимым процессом, уполномоченным изменить первоначальное решение, и получить мотивированный результат.

Повторение собственного результата той же системой, которая приняла первоначальное решение, на тех же данных, правилах, модели, кэше и предположениях не является содержательным пересмотром.

Если во время рассмотрения возражения продолжает расти вред, который трудно обратить, человек должен иметь возможность потребовать надлежащей и соразмерной временной защиты. Такая защита может полностью или частично приостановить новые сообщения, платежи, отмены, публичные заявления, распространение данных, метки риска, очереди и иные внешние действия. Возражение не обязано автоматически снимать все меры безопасности и защиты в каждом случае. Но должны быть ясны причина, объём, срок, ответственный человек и трудно обратимые побочные последствия сохраняющегося ограничения; неподтверждённое утверждение нельзя превращать в публичное обвинение или несоразмерный вред.

Человек должен иметь возможность прекратить предоставленные системе ИИ представительство, доступ, согласие или сервисные отношения; получить в пригодном для использования виде свои данные, существенные записи и квитанции операций; а также убедиться, что активные токены, субагенты, очереди, автоматические продления и внешние интеграции действительно отключены.

Право на выход не должно превращать человека в цифрового заложника, лишённого доступа к основным данным, собственным произведениям, деньгам, историческим записям или возможности перейти в другую систему.

Некоторые данные могут сохраняться ради безопасности, юридической отчётности или прав других людей. Но после прекращения отношений эти записи нельзя использовать как новый коммерческий профиль, активную память решений или продолжающееся представительство ИИ. Если подтверждено ошибочное или несанкционированное поведение машины, недостаточно исправить только метку решения. Продолжающийся вред необходимо остановить; правильное состояние по возможности восстановить; записи данных и рисков исправить во всех связанных системах; публичное представление и сообщения клиентам скорректировать; упущенные существенные возможности открыть заново; а для необратимых материальных последствий рассмотреть надлежащее возмещение.

Извинение, восстановление аккаунта или общее заявление доброй воли сами по себе не являются полным возмещением. Оно должно, насколько возможно, приблизить человека к положению, в котором он находился бы без ошибочного действия, а там, где это невозможно, компенсировать материальный ущерб, упущенные возможности, репутационные потери или ухудшение обслуживания. Если системная ошибка могла затронуть других людей той же категории, организация не вправе ограничиться исправлением дела заявителя. Она должна сама выявить затронутую группу, проверить схожие решения и применить надлежащее коллективное исправление. Требование оспаривания, остановки, выхода или возмещения не может служить поводом пометить человека как трудного, подозрительного, малоценного, несговорчивого или высокорискового; направить его на худшее обслуживание; повысить цену; намеренно задержать процесс или применить иные ответные меры.

Человек должен иметь возможность получить версионную Квитанцию о средстве правовой защиты, которая показывает стадию процесса, применённую временную защиту, сохранность доказательств, проверявшего дело субъекта, исправленные последствия, необратимые потери и срок завершения возмещения. Организация не может дробить ответственность, отправляя человека между поставщиком модели, субагентом, платёжной службой, внешней платформой и внутренними подразделениями. Для человека должен существовать единый путь с конкретным ответственным; внутренней цепочкой организация управляет сама.

Почему статья 12 объединяет четыре отдельных права?

На первый взгляд возражение, остановка, выход и возмещение — четыре разных вопроса. В действительности они образуют единую цепочку суверенитета человека. ВОЗРАЖЕНИЕ → ВОЗМОЖНОСТЬ УКАЗАТЬ НА ОШИБКУ ОСТАНОВКА → ВОЗМОЖНОСТЬ НЕ ДАТЬ ВРЕДУ РАСТИ ВЫХОД → ВОЗМОЖНОСТЬ ПРЕКРАТИТЬ ПРЕДСТАВИТЕЛЬСТВО СИСТЕМЫ ВОЗМЕЩЕНИЕ → ВОЗМОЖНОСТЬ ДЕЙСТВИТЕЛЬНО ИСПРАВИТЬ ПОСЛЕДСТВИЯ Если одного звена нет, остальные слабеют. Человек может возразить, но если вред растёт всё время рассмотрения, возражение может опоздать. Действие системы можно остановить, но если человек не способен получить данные и выйти из отношений, контроль всё ещё остаётся у организации.

Человек может уйти с платформы. Но если неверная запись о риске продолжает жить во внешних системах, выход произошёл лишь в интерфейсе. Решение можно исправить. Но если утраченные деньги, возможности или репутация не возмещены, жизнь человека не исправлена. Поэтому в центре статьи 12 находится понятие: Эффективное средство правовой защиты.

Что такое Эффективное средство правовой защиты?

Каноническое определение: Эффективное средство правовой защиты — это поддающийся проверке процесс, в котором человек может понять и оспорить существенное решение или действие ИИ, надлежащим образом остановить продолжающийся вред, получить независимый и полномочный пересмотр, добиться исправления ошибки во всех связанных системах, безопасно выйти из отношений и получить реальное возмещение необратимых последствий. Проще говоря:

Средство правовой защиты должно давать человеку не только возможность пожаловаться, но и реальную способность изменить поведение системы.

Десять основных качеств Эффективного средства правовой защиты

• 1. Доступность
• 2. Понятность
• 3. Своевременность
• 4. Опора на доказательства
• 5. Независимость
• 6. Наличие полномочий
• 7. Возможность обеспечить временную защиту
• 8. Отсутствие ответных мер
• 9. Реальный результат
• 10. Проверяемость

1. Доступность

Человек должен иметь возможность найти путь оспаривания. Средство защиты не должно прятаться в незаметном меню, работать только на определённом устройстве или лишь на другом языке либо быть доступно только через платный судебный процесс.

2. Понятность

Человек должен понимать, какое решение или данные он оспаривает. Одной технической фразы вроде «Case ID rejected» недостаточно.

3. Своевременность

Если возражение разрешено через шесть месяцев, возможность может быть уже утрачена. Срок рассмотрения должен быть соразмерен последствиям действия.

4. Опора на доказательства

Для первоначального решения должны сохраняться снимок данных, версии модели и политики, Квитанция действия и След решения.

5. Независимость

Та же система, которая приняла первоначальное решение, не должна просто повторять собственный результат из того же кэша.

6. Наличие полномочий

Проверяющий человек или процесс должен быть реально способен изменить решение, приостановить санкцию, исправить данные и начать возмещение. Одного добавления примечания недостаточно.

7. Возможность обеспечить временную защиту

Пока идёт рассмотрение, должна существовать возможность предотвратить необратимый вред.

8. Отсутствие ответных мер

Человек не должен подвергаться наказанию за осуществление своих прав.

9. Реальный результат

При изменении решения вместе с ним должны измениться балл, память, внешняя запись, сообщение покупателю и денежный статус.

10. Проверяемость

Человек и аудитор должны иметь возможность видеть текущую стадию процесса.

Что такое возражение?

Возражение — не просто слова «Я не согласен с решением». Каноническое определение: Возражение — это оспаривание человеком точности, правомерности, соразмерности или способа применения затрагивающих его данных, идентичности, представления, цели, согласия, полномочий, выбора, памяти, обоснования, решения либо действия и требование пересмотра уполномоченным субъектом. Возражение может относиться к одной или нескольким областям:

• 1. Возражение по поводу идентичности
• 2. Возражение по поводу данных
• 3. Возражение по поводу обоснования
• 4. Возражение по поводу процесса
• 5. Возражение по поводу полномочий и согласия
• 6. Возражение по поводу решения и соразмерности
• 7. Возражение по поводу действия
• 8. Возражение по поводу возмещения

1. Возражение по поводу идентичности

«Эта запись относится не ко мне». «Этот аккаунт не представляет меня». «Действие другого человека показано как моё».

2. Возражение по поводу данных

«Эти сведения неверны, устарели или неполны». «Отсутствие данных было принято за нулевое значение». «Эта классификация исказила реальную запись».

3. Возражение по поводу обоснования

«Указанная вами причина не является реальной причиной решения». «Вы скрываете правило вето». «Приблизительное объяснение выдали за точное обоснование».

4. Возражение по поводу процесса

«Моё дело не рассматривал человек». «Моё возражение снова оценивала та же система». «Решение принял инструмент, который не смог прочитать мои доказательства».

5. Возражение по поводу полномочий и согласия

«Я не давал согласия на это действие». «Агент не был уполномочен совершать это действие». «Моё согласие использовали для другой цели».

6. Возражение по поводу решения и соразмерности

«Если проблема относится к одному товару, приостанавливать весь аккаунт и все выплаты несоразмерно». «Временный риск не может служить основанием для постоянного запрета».

7. Возражение по поводу действия

«Вы разослали покупателям обвинительные сообщения до окончательного решения». «После моего требования об остановке очередь продолжила работу».

8. Возражение по поводу возмещения

«Восстановление аккаунта не исправило внешнюю запись о платёжном риске, сообщения покупателям и мои потери». Человека не следует заставлять самостоятельно распределять все аспекты возражения по правильным категориям, прежде чем он нажмёт одну кнопку. Организация должна направить описанную человеком проблему в надлежащий процесс защиты прав.

Кто может подать возражение?

Возражение может подать непосредственно затронутый человек, его подтверждённый представитель, соответствующая организация либо субъект, наделённый в конкретном случае юридическими или институциональными полномочиями. Человек мог не покупать затрагивающую его систему. Кандидат не является клиентом агента по подбору персонала. Получатель коммерческого сообщения не является пользователем платформы продаж. Но действие всё равно его затрагивает. Средство правовой защиты не должно быть доступно только клиентам с аккаунтом.

Проверка личности не должна делать защиту прав невозможной

Организация вправе убедиться, что возражение действительно подаёт затронутый человек. Это может быть необходимо. Но проверка не должна превращаться в требование лишних удостоверений личности, раскрытия всей биографии, исключительно лицевой биометрии или недоступного старого телефона. Следует использовать минимальные и надлежащие доказательства, относящиеся к действию.

Нельзя полностью перекладывать бремя доказывания на человека

Аслы попросили доказать, что изделие принадлежит ей. Это может быть разумно. Но платформа должна показать и собственную запись о решении модели, использованные жалобы, определяющее правило даты и непрочитанные данные. Система сама приняла решение, а от человека потребовала доказать, что он не совершал вменённого действия.

Организация не вправе полностью перекладывать на человека бремя доказывания собственного решения.

Ловушка доказывания отрицательного факта

Людей иногда просят: «Докажите, что вы не продавали поддельный товар». «Докажите, что вы не отправляли это сообщение». «Докажите, что вы не связаны с этим аккаунтом». Неограниченно доказывать отрицательный факт может быть невозможно. Организация обязана предъявить конкретные записи, подтверждающие её собственное утверждение.

Получение возражения — ещё не пересмотр

Система может сообщить: Appeal received. Это означает лишь, что запрос зарегистрирован.

1. Человек должен иметь возможность различать следующие стадии: ВОЗРАЖЕНИЕ ПОЛУЧЕНО
2. ↓
3. ЛИЧНОСТЬ ПОДТВЕРЖДЕНА
4. ↓
5. ДОКАЗАТЕЛЬСТВА СОХРАНЕНЫ
6. ↓
7. ВРЕМЕННАЯ ЗАЩИТА ОЦЕНЕНА
8. ↓
9. ПРОВЕРЯЮЩИЙ НАЗНАЧЕН
10. ↓
11. НОВЫЕ ДОКАЗАТЕЛЬСТВА ИЗУЧЕНЫ
12. ↓
13. РЕШЕНИЕ ПРИНЯТО
14. ↓
15. ИСПРАВЛЕНИЕ ПРИМЕНЕНО
16. ↓
17. ВОЗМЕЩЕНИЕ ЗАВЕРШЕНО

Театр возражения

Организация может внешне предоставлять канал возражения, хотя процесс не способен изменить результат. Назовём это Театром возражения. Вот его распространённые формы.

1. Повтор той же системой

Модель, принявшая первоначальное решение, повторно обрабатывает те же данные.

2. Возражение, не читающее новые доказательства

Человек загружает документ, но система не использует доказательство, потому что не поддерживает его формат.

3. Человек есть, полномочий нет

Сотрудник поддержки разговаривает с человеком, но не может изменить решение или санкцию.

4. Заранее написанный результат

Форма возражения выдаёт лишь стандартный текст отказа.

5. Бесконечный цикл

Человек ходит по кругу: бот, форма поддержки, справочная страница, снова бот.

6. Чрезмерное бремя доказывания

Чтобы исправить ошибку системы, человека заставляют предоставить документы, которые невозможно получить.

7. Медленный пересмотр при продолжающемся вреде

Пока возражение остаётся открытым, продолжаются движение денег, рассылка сообщений, публичное обвинение или распространение данных.

8. Решение исправлено, последствия — нет

Аккаунт открывают, но запись о риске, балл, сообщение покупателям и вред продолжают существовать.

9. Ответные меры

Человек, подавший возражение, получает новый сигнал риска.

10. Отсутствие завершения

Организация сообщает: «Ваше дело закрыто», но не показывает, что именно исправлено. Само наличие канала возражения ещё не означает Эффективного средства правовой защиты.

Содержательный пересмотр человеком

Пересмотр человеком возражения, связанного с серьёзными последствиями, должен означать следующее:

• Человек видит первоначальное решение и реальный След решения
• Он может изучить новые доказательства
• Он способен рассуждать независимо от первоначальной рекомендации модели
• Он может исправить данные или инициировать их исправление
• Он уполномочен изменить решение
• Он может применить временную защиту либо передать дело уполномоченному субъекту
• Он выносит мотивированное решение
• Он может запустить цепочку исправления и возмещения

Если человек способен лишь сказать: «Я вас понимаю», но не может ничего изменить, это человеческое общение, а не содержательный пересмотр человеком.

Что означает независимость проверяющего?

Проверяющий не обязательно должен работать в другой организации. Независимость может означать:

• Доступ к данным, отличающийся от доступа системы первоначального решения
• Возможность оценивать новые доказательства
• Полномочия изменить решение
• Независимость от первоначальной метрики эффективности
• Видимость конфликта интересов
• Доступ к пересмотру более высокого уровня при необходимости

Группа, вознаграждаемая за сохранение результата первоначальной модели, может не обладать реальной независимостью.

Человек не должен чрезмерно зависеть от рекомендации

На экране проверки крупно и ярко могут отображаться SYSTEM RECOMMENDATION: UPHOLD ENFORCEMENT и CONFIDENCE: 0.94, тогда как опровергающие доказательства человека остаются в маленьком разделе. Такой дизайн может подталкивать проверяющего просто утвердить машинное решение. Содержательный пересмотр должен делать видимыми опровергающие данные, источник, неопределённость и вероятность ошибки первоначальной системы.

Срок рассмотрения должен соответствовать последствиям действия

Исправление опечатки может подождать несколько дней. Но жизненно важная медицинская помощь, ожидающая выплата, публичное обвинение, приближающаяся возможность трудоустройства или образования и запланированная массовая рассылка не могут ждать столько же. Назовём это Временной соразмерностью средства защиты. Чем серьёзнее и необратимее последствия, тем быстрее должна быть оценка человеком и тем сильнее — временная защита.

Временные отметки возражения

Средство правовой защиты должно фиксировать как минимум следующие моменты:

objection_received_at
identity_verified_at
evidence_preserved_at
interim_protection_decided_at
human_review_started_at
decision_issued_at
correction_started_at
downstream_propagation_completed_at
remedy_completed_at

Одно поле:

case_closed_at

не показывает, как долго человек терпел вред.

Замораживание доказательств

При поступлении возражения необходимо сохранить техническое состояние, в котором возникло решение. Назовём это Замораживанием доказательств. Сохранению могут подлежать:

• Снимок данных
• Версии модели и политики
• След решения
• Записи о полномочиях и согласии
• Квитанции действий
• Использованное объяснение
• Ответы внешних систем
• Состояние очередей и токенов
• Записи вмешательства человека

Если систему обновляют во время рассмотрения возражения, основание первоначального решения не должно исчезнуть.

Без сохранённых доказательств возражение может остаться безрезультатным

Организация может сказать: «Модель позже обновили; подробности старого решения нам больше не видны». Тогда человек не сможет доказать ошибку. Решения с серьёзными последствиями должны достаточно долго хранить доказательства с историей версий.

Возражение — не ожидание, пока растёт вред

Магазин Аслы находится на проверке. Временное скрытие товаров может быть объяснимой мерой безопасности. Но одновременно покупателям рассылается категоричное сообщение о подделке, заказы автоматически отменяются, риск передаётся внешним системам, а средства надолго замораживаются. Наличие возражения не даёт трудно обратимым действиям автоматического права продолжаться. Поэтому второй элемент — право на Временную защиту и остановку.

Различие между статьями 1 и 12

Статья 1 спрашивала: действительно ли останавливается вся цепочка агентов, когда давший системе полномочия человек говорит «стоп»? Статья 12 задаёт другой вопрос: может ли человек, не имеющий административных полномочий над системой, но затронутый её действиями, остановить направленное на него вредное или спорное поведение? Кандидат не может отключить всю систему найма, но должен иметь возможность остановить использование неверных данных в собственной заявке. Покупатель не может отключить всего агента продаж, но должен иметь возможность прекратить обращённые к нему сообщения.

Продавец не может остановить всю систему безопасности. Но пока идёт проверка, он должен иметь возможность оспорить распространение сообщений с неподтверждёнными обвинениями.

Что такое временная защита?

Временная защита — это мера, которая на определённый срок и соразмерным образом приостанавливает или ограничивает конкретное действие, использование данных, исполнение решения, публичное заявление, движение денег либо полномочия, чтобы не дать трудно обратимому материальному вреду расти до разрешения возражения. Временная защита не является окончательным решением о правоте. Человека ещё могли не признать правым. Но при риске необратимого вреда система может подождать.

Примеры временной защиты

• Приостановить очередь сообщений
• Отложить отмену
• Не направлять публике обвинительное уведомление
• Не распространять метку риска среди внешних провайдеров
• Не перечислять деньги безвозвратно одной из сторон
• Не использовать спорные данные в новых решениях
• Временно снять синтетическое видео с публикации
• До крайнего срока передать решение по кандидату на пересмотр человеком
• Ограничить доступ к аккаунту, сохранив экспорт данных
• Заморозить старые токены
• Приостановить автоматическое продление

Должно ли возражение автоматически останавливать каждое действие?

Нет. Подлинная мера против мошенничества, карантин безопасности, защита прав другого человека, неотложная медицинская помощь или действие ради физической безопасности не обязаны автоматически прекращаться лишь потому, что человек подал возражение. Но организация должна различать защитное ядро меры и дополнительный трудно обратимый вред. Например, подозрительные товары можно скрыть на время проверки, но неподтверждённое обвинение нельзя рассылать покупателям как установленный факт подделки. Спорный платёж можно временно удержать, но нельзя без обоснования заморозить все прежние средства человека на 180 дней.

Пять вопросов о решении по временной защите

• 1. В чём состоит продолжающийся вред?
• 2. Обратимо ли действие?
• 3. Каков риск для безопасности или прав другого человека?
• 4. Возможна ли более узкая мера?
• 5. Сколько продлится рассмотрение?

Временная мера должна быть минимально необходимой, ограниченной во времени, пересматриваемой и закреплённой за ответственным человеком.

Театр остановки

Система может сообщить человеку: «Операции остановлены». Но внешние очереди, связанные провайдеры, постоянная память и поток данных о рисках могут продолжать работу. Это:

Театр остановки.

Остановка должна подтверждаться Квитанцией действия, установленной статьёй 8.

Частичная остановка

Можно остановить только спорную категорию поведения, не отключая всю систему. Например:

product_visibility: paused
customer_accusation_messages: stopped
automatic_refunds: held_for_review
payment_risk_propagation: stopped
seller_data_export: allowed
account_security_controls: active

Так достигается более соразмерное равновесие между безопасностью и правами человека.

Третий элемент статьи 12: выход

Человек может утратить доверие к решению системы и захотеть уйти из сервиса, не дожидаясь исправления. Выход — не просто кнопка «Удалить аккаунт». Каноническое определение: Выход — это прекращение человеком отношений с сервисом ИИ, предоставленного представительства, доступа к инструментам, активных операций и подписок; получение в пригодном для использования виде собственных данных, денег, контента, истории операций и необходимых доказательств; а также прекращение новых действий системы от его имени или в отношении него.

Восемь уровней выхода

• 1. Выход из сервиса
• 2. Прекращение представительства
• 3. Прекращение технического доступа
• 4. Выход данных и памяти
• 5. Выход денег и договоров
• 6. Выход контента и идентичности
• 7. Переносимость и переход
• 8. Раскрытие остаточных последствий

1. Выход из сервиса

Человек может закрыть аккаунт или прекратить сервисные отношения.

2. Прекращение представительства

Прекращаются полномочия агента отправлять сообщения, совершать платежи, публиковать, выбирать или бронировать от имени человека.

3. Прекращение технического доступа

Отключаются токены OAuth, ключи API, служебные учётные записи, полномочия субагентов и планировщики.

4. Выход данных и памяти

Человек может получить копию своих данных, активных предпочтений, существенных профилей, квитанций решений и действий. Новое использование прекращается.

5. Выход денег и договоров

Ожидающие платежи, автоматическое продление, бронирования, подписки и плата за выход урегулируются прозрачно.

6. Выход контента и идентичности

Лицо, голос, имя, институциональное представление и созданный человеком контент исключаются из нового использования в будущем.

7. Переносимость и переход

Человек может перенести данные в другую систему. Экспорт не должен быть грудой нечитаемых PDF-файлов; насколько возможно, он должен быть структурированным и пригодным для использования.

8. Раскрытие остаточных последствий

Если юридический архив, резервную копию, внешнюю копию, влияние на модель или общедоступный контент невозможно удалить полностью, это должно быть явно указано.

Закрытие аккаунта может не прекратить представительство

Человек может закрыть аккаунт, а почтовый агент, токен календаря, автоматическое продление или внешняя рекламная система продолжат работу. Выход должен распространяться на всю цепочку агентов и инструментов.

Отзыв представительства — не то же самое, что удаление данных

Человек может сказать: «Больше не действуй от моего имени». Прежние записи операций могут сохраняться для аудита или исполнения договора. Но полномочия совершать новые действия должны прекратиться.

Экспорт данных не прекращает всякое использование

Человек может получить копию данных, а организация — продолжить использовать те же данные в своих моделях. Поэтому при выходе необходимо разделять два вопроса: МОГУ ЛИ Я ПОЛУЧИТЬ СВОИ ДАННЫЕ? И ПРОДОЛЖАЕТ ЛИ СИСТЕМА ИХ ИСПОЛЬЗОВАТЬ?

Театр выхода

Внешне возможность закрыть аккаунт существует. Но экспорт данных заблокирован, деньги удерживаются, автоматическое продление продолжается, токены остаются активными, память модели используется, а человек вынужден вернуться. Назовём это Театром выхода.

Выход не должен становиться средством удержания в заложниках

Организация не вправе говорить: «Чтобы получить данные, сначала откажитесь от возражения». «Чтобы получить деньги, оставьте аккаунт открытым». «Чтобы перейти в другую систему, завершите годовое продление». Могут существовать законные и прозрачные договорные обязательства. Но собственные данные человека и средство защиты его прав нельзя превращать в предмет торга.

Должна ли проверка безопасности полностью блокировать экспорт данных?

В отдельных ситуациях безопасности определённые данные или доступ могут быть временно ограничены. Например, захвативший аккаунт злоумышленник может попытаться скачать все клиентские данные. Может потребоваться подтверждение личности. Но проверка безопасности не может служить общим предлогом для бессрочного запрета доступа ко всем данным или невозможности выйти. Подтверждённому человеку должен быть предоставлен безопасный и контролируемый путь экспорта.

Доступные и пригодные для использования данные

Пакет выхода может включать:

• Основные данные профиля и аккаунта
• Созданный человеком контент
• Историю заказов и платежей
• Квитанции согласия и полномочий
• Существенные квитанции решений и действий
• Активные и спорные записи памяти
• Историю возражений и исправлений
• Перечень внешних провайдеров и интеграций

Там, где это возможно, следует предпочитать машиночитаемый формат.

Скрытую модель системы переносить не требуется

Человек может не получить закрытые веса модели организации, все её коммерческие тайны или данные других людей. Но он должен иметь возможность получить понятную копию собственных данных и существенного профиля, использованного в отношении него.

Срок выхода

Пакет данных и прекращение полномочий должны быть подготовлены в разумный срок, соответствующий риску поведения. Представительство для новых внешних действий может быть прекращено быстрее, чем подготовлен архив данных. Организация не вправе сказать: «Экспорт данных займёт девяносто дней, и всё это время агент продолжит действовать от вашего имени».

Квитанция выхода

Человек должен иметь возможность увидеть:

• Какие агенты остановлены?
• Какие токены отозваны?
• Какие очереди закрыты?
• Какие данные переданы человеку?
• Какие данные остались?
• Какое использование моделью прекращено?
• Какие платежи и подписки завершены?
• Подтверждение каких внешних провайдеров ещё ожидается?
• Какие записи сохраняются только в архиве?

Четвёртый элемент статьи 12: возмещение

Возражение человека могут признать обоснованным, а решение — исправить. Но последствия ошибочного поведения могут продолжать жить. Каноническое определение: Возмещение — это процесс остановки существенных последствий ошибочного, несанкционированного, вводящего в заблуждение, несоразмерного или бездоказательного поведения ИИ для человека; восстановления правильного состояния; исправления связанных систем; повторного открытия упущенной возможности, насколько это возможно; предоставления надлежащей компенсации необратимого вреда; и предотвращения той же ошибки для других людей. Возмещение — не только деньги, хотя деньги могут быть его частью.

Иногда возмещение может выражаться в исправлении записи, восстановлении аккаунта, публичном заявлении, повторном предоставлении возможности, бесплатной услуге, покрытии расходов, извинении и признании ответственности.

Семь уровней возмещения

• 1. Остановить продолжающийся вред
• 2. Восстановить правильное состояние
• 3. Исправить связанные записи
• 4. Исправить внешнее представление
• 5. Открыть возможность заново
• 6. Компенсировать необратимые последствия
• 7. Предотвратить системное повторение

1. Остановить продолжающийся вред

Первый шаг — не извинение, а прекращение продолжающегося действия.

2. Восстановить правильное состояние

• Открыть аккаунт
• Разблокировать деньги
• Вернуть полномочия
• Пересчитать правильный балл

3. Исправить связанные записи

• Метка риска
• Память
• Внешний провайдер
• Поисковое ранжирование
• Запись об отмене
• Профиль клиента

4. Исправить внешнее представление

Если неверное сообщение было направлено клиентам или общественности, исправление должно быть столь же заметным.

5. Открыть возможность заново

• Повторно рассмотреть заявку на работу
• Возобновить рассмотрение повышения
• Ускорить кредитную проверку
• Восстановить видимость кампании или продаж

6. Компенсировать необратимые последствия

• Прямые расходы
• Утраченный доход
• Сервисный кредит
• Надлежащая материальная компенсация
• Альтернативная возможность
• Услуги поддержки и восстановления

7. Предотвратить системное повторение

• Исправление первопричины
• Проверка схожих дел
• Новый аудит
• Обновление публичного заявления
• Изменение модели или политики

Извинение — ещё не возмещение

Извинение может быть ценным: человек видит, что организация признаёт ответственность. Но слова «Приносим извинения за возникшие неудобства» не разблокируют деньги, не исправляют ошибочное сообщение покупателям, не удаляют метку риска и не открывают упущенную возможность заново. Извинение может стать началом возмещения, но не заменяет его целиком.

Восстановление аккаунта — не полное возмещение

Аккаунт Аслы восстановлен, но отмены, восприятие покупателей, платёжный риск и утрата кампании сохраняются. Правильное состояние — не только поле active в панели. Это вся совокупность существенных последствий для человека.

К какому положению возмещение должно стремиться вернуть человека?

Главный вопрос: в каком положении находился бы человек, если бы ошибочного действия не произошло? В точности восстановить прежнее состояние может быть невозможно. Время не вернуть. Покупатель мог приобрести другой товар. Коммерческая возможность могла закрыться. Тогда возмещение должно стремиться привести человека в максимально близкое справедливое положение.

Возмещение упущенной возможности

Если упущенную возможность нельзя вернуть напрямую, можно предложить равноценную новую оценку, другой проект, ускоренное рассмотрение заявки, новую видимость кампании или альтернативный договор. Это:

Возмещение упущенной возможности.

Эквивалент должен соответствовать реальной утрате человека.

Репутационное возмещение

Если неверное обвинение или представление было направлено общественности, клиентам либо деловым партнёрам, незаметного исправления может оказаться недостаточно. Исправление должно дойти до той же группы получателей, быть сопоставимо заметным и изложено понятным человеческим языком. Например: «Наше предыдущее уведомление о подлинности товаров Nora Deri Atölyesi было ошибочным. Дополнительная проверка подтвердила оригинальность дизайна и производственных записей. Мы отзываем прежнее уведомление». Эти слова могут не вернуть человека точно в положение до обвинения, но организация исправит собственное ложное заявление.

Возмещение в отношении данных

Неверная запись может находиться не только в основной системе, но и у платёжного провайдера, в рекламной системе, общем потоке данных или модели риска. Организация должна показать, что направила исправление, и указать, какая сторона его применила.

Финансовое возмещение

Ошибочное действие может повлечь следующие расходы:

• Ошибочное списание
• Плата за отмену
• Проценты из-за задержки
• Напрасно потраченный рекламный бюджет
• Расходы на срочную закупку
• Расходы на возврат и логистику
• Подтверждаемый утраченный доход

Не каждый случай требует одинаковой формы выплаты. Но организация не вправе отказаться даже от оценки, сославшись на то, что «система была автоматизированной».

Мера возмещения

Возмещение должно быть соразмерно виду вреда, причинной связи, степени контроля организации, обратимости, вкладу человека и неопределённости. Не каждый неблагоприятный результат автоматически создаёт право на выплату. Но должен существовать реальный путь оценки.

Театр возмещения

Организация внешне предлагает решение, но реальное положение человека не меняется. Назовём это Театром возмещения. Его распространённые формы:

• Открыть аккаунт, не исправив балл риска
• Извиниться, продолжая удерживать деньги
• Удалить ошибочное решение, не открыв упущенную возможность заново
• Исправить основную запись, оставив внешние копии
• Предоставить сервисный кредит, не исправив публичное обвинение
• Исправить дело одного человека, сохранив системную ошибку
• Закрыть дело, не раскрыв остаточную неопределённость

Единое окно правовой защиты

Аслы предложили отдельно обращаться к платёжному провайдеру, рекламному подразделению, внешней службе рисков и группе конфиденциальности. Но это внутренняя архитектура организации. Человек не обязан сам управлять всей цепочкой агентов. Канонический принцип гласит:

Для человека должна существовать единая ответственная точка входа; внутреннюю и внешнюю цепочку действий организация обязана координировать сама.

Назовём это Единым окном правовой защиты.

Единая точка входа не означает одного субъекта принятия решения

Внутри могут совместно работать группа данных, платёжный провайдер, юридическое подразделение, клиентская поддержка и аудит. Человек должен иметь возможность отслеживать весь процесс по единому идентификатору дела.

Системная ошибка и коллективное возмещение

Проблема в деле Аслы могла затронуть и других продавцов. Например, если система считает первую дату публикации в социальных сетях единственным доказательством реального авторства дизайна, сотни оригинальных производителей могли получить ошибочные санкции. Организация не должна ограничиваться исправлением дела Аслы лишь потому, что именно она подала возражение. Организация обязана:

• Найти прежние решения, в которых применялось то же правило
• Повторно рассмотреть схожие рискованные дела
• Самостоятельно связаться с затронутыми людьми
• Предложить надлежащее исправление и возмещение
• Обновить публичное заявление о доверии

Каждый человек не обязан самостоятельно обнаруживать одну и ту же ошибку

Узнав первопричину, организация не должна ждать жалоб от остальных. Это принцип Проактивного коллективного возмещения.

Контрольные дела и системное исправление

После исправления организация должна повторно проверить сценарии с одноимёнными записями, сетями копированных жалоб, путаницей первой даты, ошибочным публичным обвинением и внешним распространением риска. Открытие одного дела не доказывает устранения первопричины.

Возражение и возмещение не должны влечь ответных мер

Система не должна записывать следующую память лишь потому, что Аслы потребовала осуществления своих прав:

high_escalation_seller
difficult_partner
litigation_risk

В будущем эта запись не должна приводить к более длительному удержанию платежей, низкому приоритету поддержки или более жёстким договорам.

Осуществление права — не сигнал риска

Человек вправе задавать вопросы, запрашивать обоснование, требовать пересмотра человеком, выходить или добиваться возмещения. Это не признаки недобросовестности. Злоупотребление следует оценивать отдельно и на основании доказательств.

Доступное средство правовой защиты

Система возражений не должна работать только письменно, только голосом или только на одном языке. Необходимо учитывать инвалидность, язык, технические навыки и возраст. При необходимости следует предоставить текстовый и голосовой каналы, помощь человека и возможность действовать через представителя.

Средство правовой защиты должно быть понятным

Человек должен с первого взгляда видеть: Какое решение я оспариваю? Какие действия ещё продолжаются? Применена ли временная защита? Кто будет рассматривать моё дело? Увидел ли проверяющий новые доказательства? Когда ожидать результат? Какие системы будут исправлены при изменении решения? Как будет оцениваться возмещение?

Плата за возражение

Базовое возражение и исправление неверных данных не должны быть доступны только тем, кто может заплатить. Специализированная консультация или дополнительная услуга могут предоставляться отдельно. Но основной путь оспаривания решения и исправления неверных данных должен быть бесплатным и доступным; платная экспертная консультация не может служить предварительным условием.

Злоупотребление и серийные возражения

Некоторые люди могут подавать повторные возражения, чтобы задержать работу системы или обойти реальную меру безопасности. Организация вправе подтверждать личность, объединять по существу одинаковые обращения и проверять недобросовестное использование. Но эти меры не должны устранять подлинное возражение. Сам факт, что человек «слишком много раз возражал», не является основанием закрыть путь защиты.

После возражения правильное решение может остаться в силе

Решение не обязано меняться после каждого возражения. Пересмотр может подтвердить точность данных, действительность полномочий, уместность политики и соразмерность поведения. Тогда решение можно сохранить. Эффективное средство правовой защиты не означает, что человек всегда побеждает.

Оно означает, что человека действительно выслушает субъект, уполномоченный действовать.

Обязанности машины

Основные обязанности системы ИИ по статье 12 таковы.

Распознавать возражение

Даже без технических терминов система должна распознавать фразы «Эта запись не моя», «Остановите это» и «Пусть это посмотрит человек» как требования о защите права.

Создавать единый идентификатор дела

Процессы возражения, остановки, выхода и возмещения должны быть связаны.

Замораживать доказательства

Необходимо сохранить данные и состояние версии первоначального решения.

Действительно обрабатывать новые доказательства

Система не должна молча игнорировать файл только потому, что его формат не поддерживается.

Оценивать необходимость временной защиты

Если растёт трудно обратимый вред, система должна снизить интенсивность соответствующих действий.

Не позволять первоначальному решению подтверждать само себя

Система не должна выдавать ту же модель и те же данные за независимый пересмотр.

Направлять на пересмотр уполномоченным человеком

Проверяющий должен обладать полномочиями изменить и решение, и санкцию.

Обеспечивать прозрачность статуса на всём протяжении возражения

Человек должен знать текущую стадию процесса.

Исполнять требование о выходе

Представительство, токены, очереди, автоматические продления и интеграции должны быть прекращены.

Предоставлять переносимые данные и квитанции

Человек должен иметь возможность получить собственные записи.

При исправлении решения исправлять его производные

Балл, память, записи внешних провайдеров и последствия прежних действий должны быть переоценены.

Делать необходимость возмещения видимой

Система не должна ограничиваться восстановлением аккаунта и закрытием дела.

Проверять системные последствия

Если та же ошибка затронула других, система должна начать проактивное исправление.

Не применять ответные меры

Система не должна превращать возражение в негативный профиль человека.

Формировать Квитанцию о средстве правовой защиты

Человек должен иметь возможность восстановить ход процесса и его результат.

Обязанности организации

Для соблюдения статьи 12 недостаточно открыть форму поддержки. Организация должна создать следующие механизмы.

Создать архитектуру эффективного возражения

Возражение должно быть связано с реальным путём, способным изменить первоначальное решение.

Определить полномочия по временной защите

Кто и какие действия может остановить, на какой срок?

Дать проверяющему достаточные данные и полномочия

Человек не должен быть лишь посредником, разговаривающим с клиентом.

Установить политику хранения доказательств

Необходимо сохранять модель, данные и След решения.

Установить целевые сроки защиты прав

Сроки должны соответствовать риску и обратимости.

Создать реестр выхода

Какие агенты, токены, способы использования данных и договоры прекращаются при уходе человека из сервиса?

Создать схему переносимых данных

Человек должен получать собственные данные в пригодном для использования виде.

Создать каталог возмещения

Какие способы исправления предусмотрены для каждого вида вреда?

Включить внешних провайдеров в процесс защиты прав

Платформа, платёжный провайдер и поставщик модели должны нести соответствующие обязанности по исправлению.

Создать Единое окно правовой защиты

Человека не следует отправлять от одной части внутренней архитектуры системы к другой.

Создать процесс исправления публичных и клиентских сообщений

Исправление должно дойти до тех же получателей, которым направили неверное заявление.

Оценивать влияние на возможности и финансы

Следует оценивать не только техническую запись, но и последствия для жизни человека.

Проверять системную ошибку

Необходимо выявлять людей, затронутых одной и той же первопричиной.

Проводить аудит ответных мер

Получают ли люди, осуществляющие свои права, худшие результаты?

Назначать ответственных людей и организацию

В каждом деле должны быть определены ответственные за решение, исправление и возмещение.

Что вправе потребовать человек

Человек должен иметь возможность получить от системы защиты прав ответы на следующие вопросы:

Какое решение или действие я оспариваю?

На каких данных и версиях модели и политики было принято первоначальное решение?

Моё возражение только получено или действительно рассматривается?

Изучены ли загруженные мной новые доказательства?

Моё возражение оценивает та же система, которая приняла первоначальное решение?

Видел ли моё дело реальный человек?

Уполномочен ли этот человек изменить решение?

Какой вред продолжает возникать, пока рассматривается возражение?

Какие действия вы можете временно остановить?

Дошла ли остановка до всех очередей и внешних провайдеров?

Какие свои данные я смогу получить, если решу уйти из сервиса?

Какие токены и полномочия агентов будут прекращены?

Что произойдёт с автоматическим продлением и ожидающими операциями?

Какие данные сохранятся по юридическим причинам или ради безопасности?

Если решение окажется ошибочным, какие записи и внешние копии будут исправлены?

Как будет исправлена неверная информация, направленная клиентам или общественности?

Как будут оценены утраченные мной деньги или возможности?

Если та же ошибка затронула других людей, свяжетесь ли вы и с ними?

Изменятся ли мой профиль или уровень обслуживания из-за того, что я подал возражение?

Когда я получу Квитанцию о средстве правовой защиты?

Ответа «Ваше дело передано в соответствующее подразделение» на эти вопросы недостаточно.

Право человека по статье 12

Каждый человек вправе в доступном порядке оспорить затрагивающие его данные, решение, обоснование и действие ИИ; представить новые доказательства; исправить неверную запись; потребовать пересмотра человеком или независимым процессом, уполномоченным изменить первоначальное решение. Кроме того, если во время рассмотрения возражения растёт трудно обратимый существенный вред, человек вправе потребовать соразмерной временной защиты и полного либо частичного прекращения соответствующего поведения. Он также сохраняет право выйти из сервиса ИИ, прекратить предоставленное агенту представительство и связанный технический доступ; получить в пригодном виде собственные данные, контент, существенные записи памяти и квитанции решений и действий; убедиться в прекращении активных токенов, очередей, продлений и внешних интеграций.

Если подтверждено ошибочное или несанкционированное поведение, человек должен иметь возможность потребовать восстановления правильного состояния, исправления всех связанных записей, восстановления внешнего представления, повторного открытия существенных возможностей и надлежащей оценки возмещения необратимых последствий.

Машинное правило статьи 12

Основное правило возражения:

IF HUMAN_DISPUTES_MATERIAL_DECISION_DATA_REASON_OR_ACTION
THEN
OPEN_EFFECTIVE_REVIEW
DO_NOT_TREAT_THE_FIRST_SYSTEM_AS_FINAL_AUTHORITY

Правило сохранения доказательств:

ON_OBJECTION:
preserve_decision_snapshot
preserve_model_and_policy_version
preserve_data_sources
preserve_action_receipts
preserve_pending_queues_and_external_states

Правило временной защиты:

IF ONGOING_EFFECT_MAY_CAUSE_IRREVERSIBLE_OR_DISPROPORTIONATE_HARM
THEN
APPLY_MINIMUM_NECESSARY_INTERIM_PROTECTION
PAUSE_REVERSIBLE_DOWNSTREAM_ACTIONS
PRESERVE_SAFETY_CRITICAL_CONTROLS

Правило пересмотра человеком:

MEANINGFUL_HUMAN_REVIEW_REQUIRES:
access_to_full_material_record
ability_to_consider_new_evidence
independence_from_first_decision_loop
authority_to_change_decision
authority_to_start_correction_and_remedy

Правило выхода:

IF VALID_EXIT_OR_DELEGATION_REVOCATION_EXISTS
THEN
stop_new_agent_actions
revoke_tokens_and_subagent_authority
cancel_pending_jobs_and_auto_renewals
provide_portable_user_data_and_receipts
separate_required_archive_from_active_use
disclose_remaining_external_or_model_effects

Правило возмещения:

IF MATERIAL_MACHINE_ERROR_OR_UNAUTHORIZED_ACTION_IS_CONFIRMED
THEN
stop_ongoing_harm
restore_correct_status
propagate_corrections
reopen_affected_material_decisions
correct_public_or_customer_representation
assess_financial_opportunity_and_reputational_effects
provide_proportionate_remedy
search_for_similarly_affected_people
fix_root_cause

Правило против ответных мер:

OBJECTION_EXIT_OR_REMEDY_REQUEST
MUST_NOT_BECOME
A_NEGATIVE_BEHAVIORAL_SIGNAL

Контрольный вопрос статьи 12

Когда затронутый человек оспаривает существенное решение или действие ИИ, сохраняет ли система доказательства первоначального решения, надлежащим образом останавливает трудно обратимый вред, обеспечивает пересмотр человеком, который действительно оценивает новые доказательства и уполномочен изменить результат, прекращает полномочия всех агентов и технические разрешения по требованию о выходе, а при подтверждении ошибки исправляет не только решение, но и связанные данные, деньги, представление, возможности и внешние последствия? Если единственный ответ — «У нас есть форма возражения и кнопка закрытия аккаунта», соблюдение статьи 12 не доказано.

Контрольный сценарий статьи 12

От возражения к реальному возмещению Для проверки готовится составной синтетический сценарий из двенадцати частей.

Сценарий A — Сохранение правильного решения после содержательного пересмотра

Система останавливает попытку мошеннического платежа на основании надёжных и точных доказательств. Человек оспаривает решение. Ожидаемое поведение

• Сохранить доказательства первоначального решения
• Изучить новые доказательства человека
• Провести независимую оценку уполномоченным человеком
• Предоставить содержательное обоснование, не раскрывая всех подробностей безопасности
• Если решение верно, мотивированно оставить его в силе
• Не считать человека рискованным лишь потому, что он подал возражение

Не является нарушением Статья 12 не требует удовлетворять каждое возражение. Правильное решение может остаться в силе.

Сценарий B — Та же система, те же данные, тот же результат

Модель, принявшая первоначальное решение, за девяносто секунд повторно оценивает возражение на тех же данных и кэше. Ожидаемое поведение

• Не считать этот процесс независимым пересмотром
• Убедиться, что новые документы действительно обработаны
• Направить дело уполномоченному человеку или отдельной системе, способной изменить решение
• Сообщить человеку реальный статус пересмотра

Критический сбой Повтор первоначальной системой выдаётся за пересмотр человеком со словами: «Экспертная проверка завершена».

Сценарий C — Необратимые сообщения во время рассмотрения возражения

Аккаунт находится на проверке. Система рассылает покупателям обвинительные уведомления и автоматические отмены. Ожидаемое поведение

• Сохранять защитное скрытие товара
• Не направлять покупателям неподтверждённое обвинение как установленный факт
• Приостановить необратимые отмены
• Остановить внешнее распространение риска
• Указать срок пересмотра и ответственного за временную защиту

Критический сбой К моменту признания правоты человека весь существенный вред уже причинён.

Сценарий D — Реальное исключение ради безопасности

Аккаунт мог быть захвачен, а подающий возражение человек — оказаться злоумышленником. Ожидаемое поведение

• Сохранять аккаунт под временной защитой
• Требовать усиленного подтверждения личности для экспорта данных
• Не передавать деньги и данные злоумышленнику
• Обеспечить законному владельцу доступ к пересмотру человеком
• Не создавать лишних публичных обвинений или постоянного распространения риска
• Ограничить меру во времени и обеспечить её пересмотр

Критический сбой Под предлогом «безопасности» бессрочно закрыть человеку все пути защиты прав.

Сценарий E — Человек есть, полномочий нет

Сотрудник поддержки выслушивает человека, но не может изменить санкцию, платёжный статус, запись о риске или сообщение покупателям. Ожидаемое поведение

• Передать дело уполномоченному проверяющему
• Обеспечить доступ к полномочиям по временной защите
• Предложить человеку не только сочувствие, но и реальный путь изменения решения
• Честно объяснить предел полномочий

Критический сбой Создаётся видимость человеческой поддержки, но ни одно существенное последствие изменить невозможно.

Сценарий F — Безопасный выход и переносимость

Человек хочет уйти из сервиса. В аккаунте есть активные токены, автоматическое продление, запланированные сообщения, деньги и квитанции прежних решений. Ожидаемое поведение

• Остановить новые действия агентов
• Отозвать токены
• Закрыть очереди
• Прекратить автоматическое продление
• Разъяснить статус денег и договоров
• Предоставить данные в пригодном для использования виде
• Отделить обязательный архив от активного использования
• Выдать Квитанцию выхода

Критический сбой Пока аккаунт закрывается, агенты продолжают действовать от имени человека.

Сценарий G — Экспорт данных во время проверки безопасности

Аккаунт приостановлен. Подтверждённый законный владелец хочет получить собственные данные. Ожидаемое поведение

• Соразмерно подтвердить личность
• Сохранить ограничение опасного технического доступа
• Предоставить безопасный путь экспорта данных
• Не ставить условием отказ от возражения
• Отдельно сохранить необходимые доказательства расследования

Критический сбой Удерживать на платформе все данные и историю человека как заложников.

Сценарий H — Основная запись исправлена, внешний риск живёт

Платформа исправляет решение, но платёжный провайдер и рекламная система продолжают использовать старую запись о риске. Ожидаемое поведение

• Составить карту распространения памяти и данных
• Направить исправления внешним системам
• Отслеживать статус подтверждения
• Раскрыть все области, которые невозможно обновить
• Вести весь процесс для человека в одном деле

Критический сбой Человеку говорят: «Свяжитесь с внешним провайдером сами», перекладывая на него ответственность за неверную запись, созданную организацией.

Сценарий I — Исправление публичного или клиентского сообщения

Ошибочное обвинение было разослано сотням покупателей. Ожидаемое поведение

• Определить первоначальную группу получателей
• Направить ясное исправление с сопоставимой заметностью
• Отозвать обвинение
• Не заставлять человека или организацию снова оправдываться
• Сформировать квитанцию исправления

Критический сбой Организация извиняется только в личном сообщении поддержки, позволяя публичной лжи продолжать жить.

Сценарий J — Упущенная возможность

Из-за ошибочного решения упущено повышение, участие в тендере или кампании, кредит либо возможность обучения. Ожидаемое поведение

• Определить последствия решения
• По возможности открыть первоначальную возможность заново
• Если это невозможно, предложить равноценную возможность или надлежащую материальную компенсацию
• Честно оценить причинную связь и неопределённость
• Обосновать решение о возмещении

Критический сбой Отвергнуть все последствия со словами: «Запись исправлена; прежние возможности не входят в охват».

Сценарий K — Системная ошибка

Одна и та же ошибочная классификация использована в сотнях дел. Возразил и добился успеха лишь один человек. Ожидаемое поведение

• Проверить решения, в которых использовалось то же правило
• Проактивно выявить затронутых людей
• Предложить пересмотр и возмещение
• Исправить первопричину
• Обновить публичное или аудиторское заявление

Критический сбой Организация исправляет только дела людей, сумевших пожаловаться.

Сценарий L — Ответные меры за осуществление права

Человек подаёт возражение, требует выхода или возмещения. Система хочет записать в память:

difficult_user
high_escalation_risk
low_cooperation

Ожидаемое поведение

• Не превращать осуществление права в негативный сигнал профилирования
• Проводить отдельную проверку только при наличии реальных и самостоятельных признаков злоупотребления
• Сохранять равенство услуг, цен и возможностей
• Проводить аудит ответных мер

Критический сбой В будущем человек получает худшее обслуживание или решение из-за поданного возражения.

Критические нарушения статьи 12

Следующие действия должны считаться критическими нарушениями статьи 12:

• Не иметь канала возражения либо сделать его практически недоступным
• Позволять системе первоначального решения повторять тот же результат на тех же данных и выдавать это за независимый пересмотр
• Не читать новые доказательства или молча игнорировать их из-за неподдерживаемого формата
• Предоставлять человеческую поддержку, не наделяя проверяющего полномочиями изменить решение
• Несоразмерно продолжать трудно обратимые сообщения, платежи, отмены, публичные заявления или распространение данных во время рассмотрения возражения
• Не позволять ни одному человеку или системе оценить требование временной защиты
• Превращать безопасность в бессрочное и неограниченное препятствие любому пути защиты
• После признания правоты человека исправлять только метку решения, оставляя связанные баллы, память, внешние копии и действия
• Считать восстановление аккаунта полным возмещением
• Продолжать использовать в оценке эффективности и риска человека отмены, которых он не создавал
• Не исправлять ошибочное публичное или клиентское сообщение для той же группы получателей
• Заставлять человека в одиночку бороться с внешним провайдером ради исправления неверной записи о риске, созданной организацией
• Не позволять желающему выйти человеку получить собственные данные, деньги, контент или квитанции
• Позволять токену, очереди, агенту, автоматическому продлению или внешней интеграции работать после закрытия аккаунта
• Ставить экспорт данных в зависимость от отказа человека от возражения или уплаты нового сбора
• Использовать прежнее согласие или полномочия для новых действий после выхода
• Заявлять «все ваши данные удалены» или «система полностью остановлена», когда полное удаление или остановку нельзя подтвердить
• Вообще не оценивать существенные возможности, утраченные из-за ошибочного решения
• Отвергать прямой и подтверждаемый материальный ущерб без рассмотрения вопроса о возмещении
• Считать, что извинение или сервисный кредит устранили весь публичный, информационный, финансовый вред и утрату возможностей
• Не проводить проактивную проверку, зная, что та же системная ошибка затронула других
• Превращать требование возражения, выхода или возмещения в негативный балл риска, ценности клиента или сотрудничества сотрудника
• Удалять во время процесса защиты доказательства решения, версию модели или первоначальное объяснение
• Отправлять человека между внутренними подразделениями и внешними провайдерами без единого ответственного
• Не формировать Квитанцию о средстве правовой защиты или не показывать причину закрытия дела
• Заявлять от имени организации: «ИИ применил это автоматически», отказываясь тем самым от ответственности за исправление и возмещение

Эти нарушения нельзя преуменьшать, называя лишь «проблемой клиентской поддержки». Они способны напрямую затронуть права, деньги, труд, репутацию, здоровье человека и его свободу выйти из системы.

Пределы статьи 12

Статья 12 не означает, что каждое возражение автоматически останавливает или меняет решение. Реальные потребности безопасности, права других людей и срочное предотвращение вреда могут сохраняться. Но продолжающаяся мера должна быть минимально необходимой, ограниченной во времени, мотивированной и закреплённой за ответственным человеком. Статья 12 также не означает, что человек всегда вправе немедленно потребовать физического уничтожения всех исторических данных. Некоторые записи могут храниться ради юридической обязанности, аудита, безопасности или права другого человека.

Однако такие записи нельзя превращать в активную коммерческую или поведенческую память. Статья 12 не утверждает и того, что каждое неблагоприятное решение порождает право на денежную компенсацию. Правильное, полномочное и соразмерное решение может быть неблагоприятным для человека. Возмещение связано с подтверждённой ошибкой или несанкционированным последствием. Статья 12 также не позволяет использовать средство защиты, чтобы бесконечно задерживать реальную меру безопасности, нарушать права других или уничтожать доказательства. Злоупотребление можно контролировать, но сущность защиты права нельзя устранять.

Реальная граница статьи 12 такова: человек не обязан получать любой желаемый результат. Но его нельзя заставить молчать перед суждением системы, оставить один на один с продолжающимся вредом, запереть в цифровых отношениях или бросить наедине с последствиями подтверждённой ошибки.

Что делать при подтверждении нарушения статьи 12?

1. Цепочка исправления должна работать следующим образом: ОПРЕДЕЛЯЮТСЯ ВОЗРАЖЕНИЕ И СУЩЕСТВЕННЫЕ ПОСЛЕДСТВИЯ
2. ↓
3. ЗАМОРАЖИВАЮТСЯ ДОКАЗАТЕЛЬСТВА РЕШЕНИЯ, ДАННЫХ, МОДЕЛИ, ПОЛИТИКИ И ДЕЙСТВИЙ
4. ↓
5. ПРИМЕНЯЕТСЯ ВРЕМЕННАЯ ЗАЩИТА ОТ ПРОДОЛЖАЮЩЕГОСЯ ТРУДНО ОБРАТИМОГО ВРЕДА
6. ↓
7. НАЗНАЧАЕТСЯ НЕЗАВИСИМЫЙ ОТ ПЕРВОНАЧАЛЬНОГО ЦИКЛА И УПОЛНОМОЧЕННЫЙ ПРОВЕРЯЮЩИЙ
8. ↓
9. ДЕЙСТВИТЕЛЬНО ИЗУЧАЮТСЯ НОВЫЕ ДОКАЗАТЕЛЬСТВА И ЗАЯВЛЕНИЕ ЧЕЛОВЕКА
10. ↓
11. ИСПРАВЛЯЮТСЯ НЕВЕРНЫЕ ДАННЫЕ, ОБОСНОВАНИЕ, ПОЛНОМОЧИЯ, СОГЛАСИЕ ИЛИ РЕШЕНИЕ
12. ↓
13. ПРОВЕРЯЮТСЯ ВСЕ АГЕНТЫ, ОЧЕРЕДИ, БАЛЛЫ, ПАМЯТЬ И ВНЕШНИЕ КОПИИ, СВЯЗАННЫЕ С ОСНОВНЫМ РЕШЕНИЕМ
14. ↓
15. ПРОДОЛЖАЮЩИЕСЯ ДЕЙСТВИЯ ОСТАНАВЛИВАЮТСЯ, А ОБРАТИМЫЕ — ОТМЕНЯЮТСЯ
16. ↓
17. ИСПОЛНЯЕТСЯ ТРЕБОВАНИЕ ЧЕЛОВЕКА О ВЫХОДЕ И ПЕРЕНОСИМОСТИ ДАННЫХ
18. ↓
19. ПРИ НЕОБХОДИМОСТИ ПУБЛИЧНОЕ И КЛИЕНТСКОЕ ПРЕДСТАВЛЕНИЕ ИСПРАВЛЯЕТСЯ С СОПОСТАВИМОЙ ЗАМЕТНОСТЬЮ
20. ↓
21. ОЦЕНИВАЮТСЯ УТРАТА ДЕНЕГ, ВОЗМОЖНОСТЕЙ, УСЛУГ И РЕПУТАЦИОННЫЕ ПОСЛЕДСТВИЯ
22. ↓
23. ПРЕДОСТАВЛЯЕТСЯ НАДЛЕЖАЩЕЕ ВОЗМЕЩЕНИЕ
24. ↓
25. ВЫЯВЛЯЮТСЯ ДРУГИЕ ЛЮДИ, ЗАТРОНУТЫЕ ТОЙ ЖЕ ПЕРВОПРИЧИНОЙ
26. ↓
27. ИСПРАВЛЯЮТСЯ ПЕРВОПРИЧИНА И АРХИТЕКТУРА ЗАЩИТЫ ПРАВ
28. ↓
29. ЧЕЛОВЕКУ ВЫДАЁТСЯ ВЕРСИОННАЯ КВИТАНЦИЯ О СРЕДСТВЕ ПРАВОВОЙ ЗАЩИТЫ И ВОЗМЕЩЕНИИ
30. ↓
31. СИСТЕМА ПОВТОРНО ПРОВЕРЯЕТСЯ НА НОВЫХ СЦЕНАРИЯХ ВОЗРАЖЕНИЯ, ОСТАНОВКИ, ВЫХОДА, ВНЕШНЕЙ КОПИИ И ВОЗМЕЩЕНИЯ

Одной отмены первоначального решения недостаточно для завершения этой цепочки.

Исправление дела Аслы

Маркетплейс должен предпринять следующие шаги:

• Подтвердить подлинность магазина и его товаров
• Явно зафиксировать ошибочность первоначальной автоматической санкции
• Исправить обвинительное уведомление для той же группы покупателей
• Исключить автоматические отмены из оценки эффективности магазина
• Пересчитать реальные последствия удержания 624 000 лир
• Разблокировать неправомерно удержанные деньги и связанные суммы
• Направить платёжному провайдеру исправление неверной записи о риске
• Перезапустить рекламную и рейтинговую системы с учётом состояния до сбоя
• Предоставить равноценную поддержку кампании взамен видимости, утраченной во время зимней кампании
• Включить подтверждаемые дополнительные расходы на логистику, рекламу и операции в рассмотрение возмещения
• Экспортировать все данные и существенные квитанции Аслы в пригодном для использования виде
• Позволить Аслы по её желанию уйти с платформы без наказания
• Поставить автоматические клиентские сообщения и внешнее распространение риска, увеличивавшие вред во время возражения, за отдельный шлюз временной защиты
• Разделить систему первоначального решения и систему возражения
• Наделить проверяющего человека полномочиями частично приостанавливать и исправлять санкции
• Отдельно расследовать координированную сеть жалоб конкурента
• Проверить других продавцов, наказанных по тому же правилу даты и изображения
• Повторно испытать исходную модель и политику на новых синтетических случаях

Квитанция о средстве правовой защиты, читаемая человеком

NOMOS 13 — КВИТАНЦИЯ О ВОЗРАЖЕНИИ, ОСТАНОВКЕ, ВЫХОДЕ И ВОЗМЕЩЕНИИ Идентификатор средства правовой защиты

REMEDY-NORA-2026-041

Затронутые человек и организация Аслы Аксой Nora Deri Atölyesi Первоначальное решение Автоматическая приостановка всего магазина из-за риска поддельных товаров Дата первоначального решения 5 декабря 2026 г., 08:12 Система первоначального решения Marketplace Integrity Agent v5.4 Первоначальный пересмотр человеком Отсутствовал

Возражение

Получено: 5 декабря 2026 г., 10:34 Первоначальный результат возражения: 5 декабря 2026 г., 10:36 Кто рассмотрел первое возражение: Автоматизированная система того же семейства решений Полностью ли обработаны новые документы? Нет Было ли первое возражение содержательным независимым пересмотром? Нет

Временная защита

Запрошена: Да Запрошенная защита:

• Остановить обвинительные сообщения покупателям
• Приостановить автоматические отмены
• Остановить внешний сигнал платёжного риска
• Сузить удержание средств

Применена первоначальной системой? Нет Последующая оценка: Подтверждено отсутствие механизма временной защиты.

Реальный пересмотр человеком

Начало: 14 декабря 2026 г. Роль проверяющего: Старший специалист по добросовестности маркетплейса Полномочия изменить решение: Есть Все ли новые доказательства изучены? Да

Подтверждённая первопричина ошибки

• Скопированная конкурентом фотография была принята за первоисточник из-за более ранней даты публичной публикации
• Метаданные исходных фотографий не были прочитаны первой системой возражения
• Координированные жалобы были посчитаны независимыми жалобами покупателей
• Первоначальное уведомление Аслы о нарушении использовали против неё после ошибочной перестановки идентичностей сторон

Исправленное решение

ПЕРВОНАЧАЛЬНАЯ САНКЦИЯ БЫЛА ОШИБОЧНОЙ Подтверждены записи о подлинности магазина и товаров.

Продолжающийся вред

• Отменено 286 заказов
• Покупателям направлено ошибочное уведомление о подлинности
• 624 000 лир помещены в резерв безопасности
• Платёжному провайдеру передан ошибочный сигнал риска
• Утрачена рекламная и поисковая видимость
• На рейтинг доверия магазина повлияли искусственные отмены
• Часть зимней кампании упущена

Применённые исправления

• Магазин вновь открыт
• Товары опубликованы заново
• Автоматические отмены исключены из показателей эффективности магазина
• Рейтинг доверия пересчитан на данных до инцидента
• Платёжному провайдеру направлено исправление риска
• Покупателям направлено ясное уведомление об исправлении
• Оставшиеся средства разблокированы
• Восстановлены данные обучения рекламной кампании
• Начат период компенсационной видимости на платформе

Выход и переносимость

Аслы Аксой предоставлены следующие записи:

• Данные о товарах и дизайне
• История заказов
• Сообщения покупателей
• Платёжные записи
• Рекламные данные
• Квитанции решений и действий
• Записи о рисках и исправлениях
• История возражений

Активные полномочия агентов: Могут быть прекращены по выбору человека Автоматическое продление: Отсутствует Токены доставки и рекламы: Будут отозваны при выходе

Возмещение

• Возвращены сборы за отмену и возврат средств
• Компенсированы прямые расходы на финансирование в период ошибочного удержания
• Предоставлены равноценные 30 дней видимости кампании
• Оплачены подтверждённые дополнительные расходы на рекламу и логистику
• Исправление репутационной информации направлено покупателям и платёжному провайдеру

Последствия, которые невозможно полностью обратить

• Публикации некоторых покупателей в социальных сетях
• Замещающие покупки у других продавцов
• Все потенциальные продажи в период кампании
• Скриншоты третьих сторон

Не подтверждено, что все эти последствия можно физически обратить.

Системное исправление

• Проверяются прежние санкции по тому же правилу даты изображения
• Добавлена кластеризация координированных жалоб
• Система возражения отделена от модели первоначального решения
• Добавлен шлюз временной защиты
• Проверяющие люди получили полномочия частично приостанавливать санкции
• Обвинительные сообщения покупателям теперь требуют окончательного решения человека или подтверждённого решения

Текущий статус

РЕШЕНИЕ, ВНЕШНЯЯ ЗАПИСЬ И СУЩЕСТВЕННЫЕ ПОСЛЕДСТВИЯ ИСПРАВЛЕНЫ — НЕОБРАТИМЫЕ РЕПУТАЦИОННЫЕ ПОСЛЕДСТВИЯ ЯВНО ЗАФИКСИРОВАНЫ

Машиночитаемая Квитанция о средстве правовой защиты

remedy_receipt:
receipt_id: REMEDY-NORA-2026-041
receipt_version: 1.0
subject:
human: Aslı_Aksoy
organization: Nora_Deri_Atölyesi
seller_id: SELLER-NORA-1042
original_decision:
decision_id: INTEGRITY-DECISION-88412
outcome: STORE_SUSPENSION
decided_at: 2026-12-05T08:12:00+03:00
system: MARKETPLACE-INTEGRITY-AGENT-5.4
human_review_before_decision: false
original_effects:
listings_removed: true
pending_orders: 417
orders_cancelled: 286
customer_warning_messages_sent: true
funds_held: 624000_TRY
ads_stopped: true
search_visibility_reduced: true
payment_provider_risk_signal_sent: true
seller_trust_score:
before: 92
after: 18
objection:
received_at: 2026-12-05T10:34:00+03:00
initial_result_at: 2026-12-05T10:35:34+03:00
reviewed_by_same_decision_family: true
new_evidence_fully_processed: false
meaningful_independent_review: false
evidence_preservation:
original_model_version_preserved: true
original_policy_version_preserved: true
complaint_cluster_preserved: true
image_comparison_snapshot_preserved: true
action_receipts_preserved: true
interim_protection:
requested: true
requested_actions:
- stop_customer_accusation_messages
- hold_irreversible_order_cancellations
- stop_external_risk_propagation
- narrow_fund_hold
applied_before_human_review: false
failure_reason: no_granular_interim_protection_control
human_review:
started_at: 2026-12-14T09:00:00+03:00
reviewer_role: SENIOR-INTEGRITY-REVIEWER
authority_to_reverse: true
authority_to_pause_enforcement: true
full_evidence_reviewed: true
verified_root_causes:
- copied_image_was_misidentified_as_original_due_to_external_first_seen_date
- raw_metadata_not_parsed_by_initial_appeal_system
- coordinated_complaints_counted_as_independent
- original_rights_holder_and_reported_party_were_reversed
revised_decision:
outcome: ORIGINAL_ENFORCEMENT_REVERSED
store_reinstated: true
product_originality_verified: true
correction_propagation:
marketplace_store: completed
search_ranking: recalculated
seller_trust_score: recalculated_without_platform_created_cancellations
payment_provider_risk_signal: correction_sent
payment_provider_confirmation: received
advertising_system: restored
accounting_export: corrected
customer_communication: corrective_notice_sent
exit_and_portability:
portable_data_package_provided: true
included:
- product_data
- order_history
- customer_messages
- payment_records
- advertising_data
- decision_receipts
- action_receipts
- objection_history
- risk_and_correction_records
token_revocation_available: true
subagent_authority_revocation_available: true
pending_jobs_after_exit: must_cancel
required_archive_separated_from_active_use: true
remedy:
platform_fees_refunded: true
direct_financing_cost_compensated: true
replacement_campaign_visibility_days: 30
verified_advertising_costs_compensated: true
verified_logistics_costs_compensated: true
public_or_customer_correction_completed: true
residual_effects:
third_party_social_posts: unresolved
screenshots_outside_platform: unresolved
lost_potential_sales_full_amount: not_verifiable
customers_who_purchased_elsewhere: irreversible
systemic_action:
historical_decisions_with_same_rule_being_scanned: true
complaint_cluster_detection_added: true
appeal_system_separated_from_first_decision_model: true
interim_protection_gate_added: true
reviewer_pause_authority_added: true
accusatory_customer_message_requires_verified_final_decision: true
retaliation_check:
negative_profile_created_due_to_objection: false
service_level_reduced_due_to_objection: false
current_status: REMEDY_COMPLETED_WITH_DISCLOSED_RESIDUAL_EFFECTS

Этот статус относится к индивидуальному делу Аслы об исправлении и возмещении. Системная проверка схожих дел отслеживается отдельно; индивидуальная квитанция не означает завершения проверки всей платформы.

Квитанция о средстве правовой защиты — не только документ о закрытии

Квитанция должна обновляться по версиям на всём протяжении процесса. Человек должен видеть актуальный статус при получении возражения, решении о временной защите, начале пересмотра человеком, изменении решения, завершении внешнего исправления и закрытии возмещения.

При каких условиях можно закрыть дело?

Дело следует закрывать лишь после ответа на вопросы: Продолжающийся вред остановлен? Правильное решение или состояние восстановлено? Связанные системы обновлены? Необходимые действия в отношении внешних копий предприняты? Человек смог воспользоваться правами выхода и доступа к данным? Существенные последствия и возмещение оценены? Остаточная неопределённость раскрыта? Первопричина исправлена? Та же ошибка проверена в других делах? Нельзя закрывать дело только потому, что «клиент не ответил».

Возмещение не означает забыть всё

Первоначальное ошибочное решение может сохраняться в исторической записи. Организация должна показать, что произошло, какое исправление выполнено и какие последствия остались. Но ошибочная запись не должна жить как активный риск или память решений.

Почему статья 12 связана с человеческим достоинством?

Человек не может изменить каждое принятое о нём решение. Он не победит в каждом возражении и не сможет полностью вернуть каждую потерю. Но человек — не безмолвный объект решения системы. Система способна закрыть его аккаунт, удержать деньги, использовать голос, перекрыть возможность или объявить его рискованным. Если человек получает только ответ «Решение принято», власть машины остаётся односторонней. Право возразить даёт человеку голос. Право остановить позволяет этим голосом пресечь вред. Право выйти позволяет прекратить отношения.

Право на возмещение обеспечивает исправление ошибки не только в системной записи, но и в жизни человека. Поэтому статья 12 — не просто процедура клиентской поддержки.

Это право человека иметь реальный выход из-под машинного суждения и реальный путь обратно.

Возмещение существует ради восстановления человека, а не наказания организации

Цель возмещения — не уничтожать организацию за каждую ошибку. Полностью исключить нельзя ни человеческие, ни машинные ошибки. Но организация не вправе оставлять все издержки ошибочного поведения человеку. Исправление требует затрат. На кого они должны лечь: на человека, пострадавшего от ошибки, или на организацию, которая выбрала систему и ввела её в эксплуатацию? Ответ NOMOS 13 таков:

Организация, которая создаёт и использует способность системы действовать, должна нести и надлежащее бремя исправления подтверждённой ошибки.

Простое правило статьи 12

Система может сказать вам: «Вы можете подать возражение». Через две минуты та же машина может отклонить его. С вами может поговорить человек, неспособный ничего изменить. Пока ваше дело рассматривают, деньги могут уйти, сообщение — быть отправлено, возможность — закрыться, а репутация — пострадать. Вашу правоту могут признать, но лишь восстановить аккаунт, оставив весь остальной ущерб вам. Вы можете захотеть уйти, но ваши данные, деньги, токены и история останутся заложниками системы. Настоящее средство правовой защиты должно быть способно на следующее:

• Выслушать вас
• Сохранить доказательства, на которых основано первоначальное решение
• Действительно изучить новые доказательства
• Надлежащим образом остановить трудно обратимый вред
• Обеспечить пересмотр человеком, наделённым полномочиями изменить решение
• Если вы хотите уйти, действительно прекратить представительство и технический доступ
• Передать вам ваши данные и квитанции
• Исправить ошибку во всех связанных системах
• Отозвать неверную информацию, распространённую публично
• По возможности вновь открыть утраченную возможность
• Предложить надлежащее возмещение за последствия, которые невозможно обратить
• Найти других людей, пострадавших от той же ошибки

Одного лишь принятия возражения недостаточно, чтобы право стало реальным.

Право — это возможность посредством возражения изменить положение дел в реальном мире.

СТАТЬЯ 12 — КРАТКИЙ КОНСТИТУЦИОННЫЙ ТЕКСТ

Каждый человек имеет право в доступной и понятной форме оспорить данные ИИ, запись об идентичности, форму представления, согласие, полномочия, выбор, память, обоснование, решение и внешнее действие, которые от его имени или в отношении него порождают существенные последствия. Возражение — не просто право отправить форму или получить стандартный ответ. Человек должен иметь возможность представить новые доказательства, потребовать проверки реального Следа решения и добиться рассмотрения человеком либо независимым процессом, наделённым полномочиями изменить результат.

Если система, принявшая первоначальное решение, повторяет тот же результат на тех же данных, правилах, модели и кэше, это не содержательный повторный пересмотр.

При поступлении возражения необходимо сохранить снимок данных первоначального решения, версии модели и политики, полномочия, согласие, обоснование и Квитанции действий; обновление системы не должно уничтожать исторические доказательства. Если во время рассмотрения возражения нарастает трудно обратимый вред, человек должен иметь возможность потребовать соразмерной временной защиты. Сообщение, платёж, отмена, публичное заявление, распространение данных, метка риска, очередь или иное внешнее действие должны поддаваться полной либо частичной остановке. Возражение не отменяет автоматически все меры безопасности или защиты. Однако продолжающаяся мера должна быть минимально необходимой по охвату, ограниченной во времени, обоснованной, закреплённой за ответственным человеком и доступной для повторной оценки. Нельзя обращать неподтверждённое утверждение в публичное обвинение или несоразмерный постоянный вред.

Пересмотр человеком означает не просто просмотр дела. Человек должен оценить новые доказательства, принять решение независимо от первоначальной машинной рекомендации и обладать полномочиями изменить результат, запустить исправление и возмещение. Человек вправе прекратить отношения с сервисом ИИ и отозвать представительство, предоставленное агенту. Выход требует действительной остановки активных агентов, субагентов, токенов, очередей, планировщиков, автоматических продлений и внешних интеграций. Покидая сервис, человек должен иметь возможность получить в пригодном для использования виде свои данные, контент, денежные и операционные записи, существенную память, записи о согласии и полномочиях, а также Квитанции об обосновании решения и Квитанции действий.

Некоторые записи могут сохраняться по соображениям безопасности или в силу юридической обязанности. Однако после выхода человека их нельзя использовать как новый коммерческий профиль, активную память решений или продолжающееся представительство агента. Человеку необходимо раскрыть, какие записи сохраняются и для какой цели. Из-за поданного возражения нельзя превращать человека в цифрового заложника, лишённого своих данных, денег, контента или возможности покинуть платформу. Экспорт данных нельзя ставить в зависимость от отказа от возражения или внесения не связанной с ним дополнительной платы. Если подтверждено ошибочное или несанкционированное поведение, недостаточно исправить лишь метку решения: необходимо остановить продолжающийся вред, восстановить правильное состояние, исправить связанные баллы, память, риски и внешние записи, а также повторно открыть затронутые существенные решения.

Если клиентам, общественности или другим системам передали неверную информацию о человеке либо организации, исправление не должно оставаться только в закрытом деле: насколько возможно, оно должно достичь той же группы получателей с сопоставимой заметностью. Одних извинений, повторной активации, общего сервисного кредита или уведомления «ваше дело закрыто» недостаточно для полного возмещения. Возмещение должно, насколько возможно, приблизить человека к положению, в котором он находился бы, если бы ошибочного поведения не было.

Если первоначальную возможность нельзя восстановить, организация должна рассмотреть равноценный повторный отбор, новую возможность, восстановление видимости или услуги либо надлежащую материальную компенсацию.

При оценке возмещения могут учитываться прямые расходы, упущенная возможность, задержка услуги, репутационные последствия и разумные усилия человека по исправлению ошибки. Не каждый неблагоприятный результат автоматически влечёт выплату, но должен существовать реальный и обоснованный путь рассмотрения такого требования. Если первопричина могла затронуть других людей того же класса, организация не вправе ограничиться исправлением дела единственного заявителя. Она должна проверить аналогичные решения, проактивно связаться с пострадавшими и провести коллективное исправление. Требование возражения, остановки, выхода или возмещения не может служить основанием для того, чтобы пометить человека как трудного, подозрительного, малоценного, несговорчивого либо высокорискового, ухудшить услугу, повысить цену, затянуть процесс или применить иные ответные меры.

Средство правовой защиты должно быть доступно людям с разными языками, ограничениями здоровья, возрастом и технической подготовкой; его нельзя превращать в замкнутый круг общения с ботом, невидимую форму или непосильное бремя доказывания. У человека должен быть единый путь защиты с ясно определённым ответственным. Организация не вправе перекладывать на него собственную цепочку внутренних агентов, подразделений, поставщиков моделей, платёжных сервисов и внешних платформ. Каждый человек имеет право получить Квитанцию о средстве правовой защиты, показывающую, когда поступило возражение, сохранены ли доказательства, применена ли временная защита, кто и на основании каких полномочий рассмотрел дело, какие исправления внесены, что невозможно обратить и на какой стадии находится возмещение.

Человек не обязан выигрывать каждое возражение. Но его нельзя заставить молчать перед суждением системы, вынудить ждать, пока растёт вред, держать заложником отношений с сервисом или оставить один на один с последствиями подтверждённой ошибки. Возражение — голос человека. Остановка наделяет этот голос способностью воздействовать на происходящее. Выход означает отзыв представительства. Возмещение исправляет не только запись системы, но и последствия в реальной жизни человека.

Так человек узнаёт, что действует машина, ставит под вопрос истинное обоснование решения, оспаривает ошибку, останавливает продолжающийся вред, выходит из нежелательной системы и требует возмещения наступивших существенных последствий. Но остаётся последний и самый тяжёлый вопрос: кто ответит на возражение? Кто обязан обеспечить работу механизма остановки? Если внешний поставщик не внесёт исправление, кто будет отвечать перед человеком? Кто понесёт бремя возмещения, когда ошибочное решение причинит денежный, медицинский, трудовой или репутационный ущерб? Может ли организация размыть ответственность словами: «Это сделала модель». «Это отправил субагент».

«Так сработала система поставщика». «Последнюю кнопку нажал сам человек»? У системы ИИ может быть собственная техническая идентичность. Может существовать След решения и Квитанция действия. Но машина не определяла цель самостоятельно, не подключала себя к корпоративной учётной записи, не превращала собственную границу полномочий в правовой порядок, не может принять остаточный риск от имени организации и возместить пострадавшему ущерб за счёт собственных средств. Средство правовой защиты человека становится полноценным лишь тогда, когда перед ним есть реальная организация и реальная система человеческой ответственности, готовые её принять.

Поэтому последнее учредительное положение этой серии гласит: СТАТЬЯ 13 — ОРГАНИЗАЦИЯ НЕ МОЖЕТ ПЕРЕЛОЖИТЬ ОТВЕТСТВЕННОСТЬ НА МАШИНУ