YouTube отказался от использования ИИ для модерации контента

Поиском вредоносного контента на платформе YouTube снова начали заниматься модераторы. Во время карантина сервис начал использовать для этих целей ИИ-алгоритмы. Практика показала, что они цензурируют пользовательский контент слишком жестко. Об этом пишет FT.

По словам директора по продуктам видеосервиса Н. Мохана, в течение двух месяцев ИИ-алгоритмы удалили с платформы порядка 11 млн роликов, т. е. в два раза больше нормы. Часть запретов была отменена по итогам рассмотрения апелляций пользователей. Модераторам пришлось восстановить 160 тыс. видеороликов. 50% роликов было удалено ИИ-алгоритмами безосновательно. Правил сервиса они не нарушали.

Мохан отметил, что в начале эпидемии в интернете появилось много фейковых новостей о коронавирусе. Модераторы YouTube физически не успевали их контролировать. Компания была вынуждена довериться искусственному интеллекту. Между тем он оказался крайне жестким цензором. После внедрения ИИ-алгоритмов часть из 10 000 модераторов была отозвана.

Основным преимуществом алгоритмов оказалась скорость. Половину из 11 млн удаленных роликов пользователи даже не успели посмотреть. Модерировать контент с такой скоростью обычные люди не в состоянии.