Ръководството за модераторите на Facebook: над 1400 страници и много грешки

На фона на огромната критика от страна на обществото, Facebook е принуден да взема мерки. Но това съвсем не е лесно, както изглежда на пръв поглед. Медиите публикуваха ръководството за модераторите на Facebook. Оказа се, че това са над 1400 страници с инструкции, в които е твърде трудно да се вникне, пише авторитетния NY Times.

Днес и политиците, и обществените организации обвиняват социалната мрежа в разпалване на омраза и разпространяване на дезинформация. За Facebook това е преди всичко финансов проблем, понеже тези обвинения създават негативен фон и се отразяват твърде зле на курса на акциите и съответно, на благосъстоянието на акционерите, а и на служителите в компанията.

Facebook, който изкарва по $5 милиарда на тримесечие, няма как да не демонстрира, че се отнася сериозно към борбата с вредоносното съдържание. Но как могат да бъдат модерирани милиардите съобщения на ден, написани на над 100 езика, като едновременно с това потребителската база трябва да расте, понеже тя е фундамента на бизнеса? Решението на компанията е огромна верига от модератори, които следват лабиринт от PowerPoint слайдове, обясняващи кое е забранено и кое не.

„Всеки вторник, сутринта, няколко десетки служители на Facebook се събират на обща бизнес закуска, на която приемат нови правила за ръководството за модератори. Обсъжда се, какво ще бъде разрешено да говорят двата милиарда потребители на сайта“ – пише NY Times. „Решенията, взети на тези срещи се изпращат до над 7500-те модератора от целия свят„. Изданието съобщи, че разполага с копие на тези инструкции, което съдържа над 1400 страници. Информацията я е предоставил един от служителите, объркан и ядосан от излишната модерация и твърде големия брой грешки в ръководството, както и принципните грешки, допускани от Facebook при модерирането.

Изучаването на тези документи наистина разкри много пропуски, предубеждения и явни грешки. Очевидно е, че инструкциите са различни за различните държави и в резултат от това, разпалващите омраза изказвания могат в някои региони могат да процъфтяват, а в други – излишно да се премахват.

Така например, неотдавна модераторите са получили нареждане да премахнат молбите за събиране на средства за пострадалите от вулкана в Индонезия, понеже един от организаторите на кампанията е в черния списък на Facebook. В Индия на модераторите по погрешка са казали да изтриват коментарите, критикуващи религията. Екстремистка група в Мианмар в продължение на няколко месеца е проявявала активност поради грешка в документацията на Facebook. Военният престъпник Ратко Младич е обозначен като бежанец и други подобни.

Според тази информация, фактическата модерация се осъществява от външни компании. Те от своя страна използват предимно неквалифицирани хора, много от които работят в кол-центровете и са от типа, шеговито наричан „индийски съпорт“.

Твърде често модераторите разчитат на Google Translate. Но изискванията към тяхната производителност е такава, че те за няколко секунди трябва да си припомнят безчислените правила и да ги приложат към стотиците съобщения, които всеки ден се появяват на техните служебни компютри. Така например, трябва да се светкавично да си припомнят с кое емоджи е забранено споменаването на джихад.

Редица модератори казват, че тези правила не са много ефективни, а понякога са безсмислени. Но мениджмънтът на компанията счита, че няма друг начин.

Попадналият в пресата документ не прилича на ясно ръководство. Той е съставен от десетки несвързани презентации на PowerPoint бюрократични заглавия от рода: „Западните балкани не обичат организациите и личностите“ или „Явното насилие: стандарти и реализации„. Facebook потвърди, че документът е истински и файловете са предназначени за обучение на модераторите, но че това е стара версия. Но модераторите твърдят, че тези файлове ежедневно се използват като справочни материали.