ИИ-модератор YouTube «закрутил гайки» создателям контента

В связи с пандемией COVID-19 компания Google перевела многих сотрудников YouTube в режим удалённой работы. На это время проверка загружаемого контента на соответствие правилам видеохостинга была доверена искусственному интеллекту. И как выяснилось, автоматический модератор оказался весьма придирчивым. Во втором квартале 2020-го он удалил рекордное в истории сервиса количество «сомнительных» видео — в том числе совершенно безобидных.

Количество удалённых видео за 2-й квартал 2020-го по регионам

В опубликованном на официальном сайте Google отчёте указано, что с апреля по июнь было удалено более 11,4 миллиона видео по сравнению с менее чем 9 миллионов роликов за тот же период прошлого года. В компании отметили, что это было ожидаемо и объяснили, почему было принято решение об автоматизации процесса. Учитывая, что модераторы обычно работают в офисах под наблюдением, разрешение на выполнение такой работы вне контролируемой среды могло привести к непреднамеренному разглашению личных данных пользователей.

«Принимая во внимание значительное сокращение возможностей проверки людьми из-за COVID-19, мы были вынуждены сделать выбор между потенциально недостаточным или потенциально чрезмерным применением. Поскольку ответственность является нашим главным приоритетом, мы выбрали второе — использование технологий, чтобы помочь с некоторыми видами работы, обычно выполняемой рецензентами», — говорится на сайте компании.

Понимая, что удаление видео, которые не нарушают правила YouTube, приведёт к увеличению количества апелляций со стороны создателей контента, Google расширила штат сотрудников, занимающихся рассмотрением споров. И действительно, количество жалоб на ошибочное удаление роликов выросло со 166 000 в первом квартале текущего года до более чем 325 000 во втором. Соответственно увеличилось и количество восстановленных видео. В компании пока не сообщают, как долго ИИ продолжит выполнять функции штатных сотрудников YouTube.

Добавить комментарий