Мнение: Дали системата за безопасност на Meta е счупена?

Почти всеки създател на съдържание или активен мениджър на социални медии се е сблъскал със същия проблем, когато публикува във Facebook или Instagram наскоро: публикация или акаунт са блокирани, вероятно по грешка.

Тази досадна ситуация е само една част от пъзела на сложния проблем със системата за регулиране на съдържанието на Meta. Докато Meta изглежда има много контролни мерки – понякога абсурдни – коренът на проблема не изглежда да е решен.

През последните месеци, Meta въведе множество обновления на своите насоки за съдържанието и приложи по-строги правила, насочени към построяването на по-здравословна онлайн среда. Една от последиците бе, че множество бизнеси, издатели и потребителски акаунти бяха забранени, което доведе до стотици жалби във форуми, чат платформи и социални медии. Множество новинарски издатели и марки бяха премахнати от платформите на Meta в определени региони тази година, което предизвика тревога сред собствениците на бизнеси, журналисти и създатели на съдържание.

Въпреки последните актуализации на Meta, които оставят впечатлението за по-строго модериране и по-задълбочен преглед на съдържанието, споделено на нейните платформи, публикации свързани с наркотици, самоубийство, сексуално тормоз, тормоз, реч на омраза, злоупотреба и фалшиви новини продължават да минават през алгоритмите, достигайки до уязвими общности.

Не мога да не се чудя: Какво се случва със системата за безопасност на Meta?

Профили бяха забранени без основание

Всичко започва с едно и също съобщение: „Вашият профил в Meta не спазва нашите правила.“ Много потребители на Facebook и Instagram бяха забранени или временно изключени от своите профили „за неспазване“ на правилата на Meta, дори когато те смятат, че ги спазват.

Това е ситуация, която сме изживели в Wizcase. Системата на Meta маркираше съответните елементи като неподходящи и накара мениджъра на общността да премине през процес на обжалване и да предостави лични документи, издадени от държавата.

Стотици потребители, мениджъри на общности и акаунт мениджъри са се оплакали в платформи като Reddit и други форуми, чатове и социални медийни канали за подобни ситуации. В множество нещастни сценарии, потребителите губят акаунтите си и няма нищо, което могат да направят по въпроса, като дори не получават обяснение.

„Екипът за поддръжка на Facebook е ужасен. Независимо колко пъти им разкажем или обясним всичко, те просто не разбират,“ каза един потребител в Reddit в нишка за блокирани акаунти. „Едно, което мога да кажа незабавно, е че няма да ви възстановят акаунта, освен ако не сте харчили стотици хиляди на ден,“ добави друг.

Тази проблем, въпреки че може да изглежда, че засяга само създателите на съдържание, е само малка част от по-голяма предизвикателство.

Meta срещу искове

В продължение на години, Meta инвестира в модерацията на съдържанието и в нови стратегии за работа по по-сигурна платформа за потребителите и за защита от допълнителни съдебни искове – най-новият е от кенски модератори на съдържание, които в момента искат 1.6 милиарда долара обезщетение за масови съкращения и компенсация за стресовия материал, на който са били изложени, докато анализират съдържанието за Facebook.

Технологичната компания разчита на трети страни за помощ с регулациите на съдържанието и разработва инструменти за разпознаване на нарушения на правилата на платформата. Въпреки това, тези мерки не са били достатъчни и ситуацията излезе от контрол, особено сред непълнолетните потребители.

През 2021 година, Meta представи нови функции за защита, но това не спря Сената да включи Instagram и Facebook сред платформите, считани за вредни за децата миналата година. Технологичният гигант беше обект на съвместен иск, подаден от 33 щата в Съединените щати заради манипулативния и вреден алгоритъм.

От януари, Meta споделя актуализации за нови инструменти за контрол на сигурността. През юни, компанията подобри своя инструмент срещу тормоз за защита на тийнейджърите в Instagram, като въведе по подразбиране функция “Close Friends” с опция „Limits“, така че само истински приятели и семейства да могат да взаимодействат с публикуваното съдържание от младите потребители.

Само преди няколко дни, компанията обяви новите Teen Accounts за защита на тийнейджърите и за „подсигуряване на родителите, че тийнейджърите имат безопасни преживявания“. Ще бъде ли достатъчно за защита на децата? Какво ще стане с по-възрастните потребители?

Небезопасна екосистема

Facebook, Instagram и WhatsApp все още са засегнати от вредно съдържание, което засяга потребители от всички възрасти, професии и социални групи, и едва ли ще бъде решено скоро.

Проучване, проведено от Център за противопоставяне на дигиталната омраза (CCDH), анализира над 500 милиона коментара в Instagram, направени от профилите на 10 жени политици в Съединените щати и разкри, че Meta не е предприела действия или не е премахнала 93% от тези коментари.

Многобройните съдебни дела срещу Meta буквално доказаха, че компанията се бори да защити потребителите си от вредно съдържание и също така наранява творци, издатели и марки с несправедливи филтри и лошо приложени инструменти за сигурност.

Разбира се, това е сложен и дълбок въпрос, който трябва да бъде разгледан задълбочено, но може би е време да приемем, че Meta не е успяла да се справи със ситуацията. Временните решения няма да оправят система, която е принципно счупена. Сега истинският въпрос е: Колко още потребители трябва да бъдат несправедливо забранени, заблудени или манипулирани, преди да настъпи истинска промяна?