Зусилля з обмеження небажаного контенту в соцмережах слабшають у міру зміни корпоративних пріоритетів, пише Axios.
Чому це важливо: великі онлайн-платформи, які колись змагалися в тому, щоб проявляти пильність щодо дезінформації, образ і розпалювання ненависті, тепер обирають зовсім інші шляхи контролю за своїм контентом.
Після президентських виборів у США 2016 року і скандалу з Cambridge Analytica у Facebook усі великі платформи прагнули показати громадськості та законодавцям, що вони борються з тим, що критики назвали потоком дезінформації та токсичних постів. Компанії посилили політику і найняли легіони модераторів у рамках кампанії, яка тривала під час пандемії COVID-19, коли платформи були наповнені медичною дезінформацією. Але сьогодні цей підхід слабшає.
Тепер платформи, включно з Facebook і Instagram, дедалі більше покладаються на Наглядову раду у розв’язанні найскладніших питань, з якими вони стикаються. У Meta, як і раніше, працюють великі команди з модерації контенту як усередині компанії, так і через підрядників. Але нещодавній акцент на створенні метавсесвіту відвернув увагу генерального директора Марка Цукерберга і його ключових помічників від проблем із контентом.
Twitter під керівництвом Ілона Маска, тим часом, також обрав радикально інший курс. Нещодавно сервіс запропонував широку амністію акаунтам, раніше забороненим за порушення правил, після того, як опитування підписників Маска у Twitter підтримало цей крок. Маск заявив, що він виступає за широкі принципи свободи слова, але критики стверджують, що його зміни призвели до сплеску расистських, антисемітських висловлювань та інших видів екстремізму в Twitter.
Масові скорочення персоналу Маска в Twitter також знищили команди, які раніше займалися розробкою і забезпеченням дотримання його політики щодо контенту, особливо за межами США. Згідно з New York Times, у YouTube від Google нещодавно було звільнено кілька менеджерів та експертів з контентної політики.
Такі платформи, як Facebook, Twitter і YouTube, все частіше покладаються на автоматизовані системи для визначення контенту, який може порушувати їхню політику. Але політику формували люди, і модератори все одно повинні переглядати рішення, вивчати складніші випадки і вирішувати скарги. Не дивно, що в момент, коли економічний спад спричиняє масові звільнення в галузі, компанії вибрали модерацію контенту як основну область для скорочень.
Зрештою, ці відділи не несуть прямої відповідальності за доходи. Але вони дійсно відіграють велику роль для рекламодавців, які не хочуть, щоб їхні рекламні повідомлення з’являлися поруч із хейтом.
Що далі: поява генеративного штучного інтелекту може призвести до нового напливу автоматизованих повідомлень у соціальних мережах, які “перевірятимуть” платформи на їхню здатність до модерації.
