Instagram внедрява ИИ за разпознаване на тролове

Instagram      .td_uid_42_5d25e161f0e9b_rand.td-a-rec-img{text-align:left}.td_uid_42_5d25e161f0e9b_rand.td-a-rec-img img{margin:0 auto 0 0}

Facebook, като един от световните лидери в разработването на технологии с елементи на изкуствен интелект, започна използването на новите алгоритми в ежедневието. Те се използват за филтриране на съобщенията на потребителите. Ние вече публикувахме материали за инструмента Restrict и за борбата на Instagram с обидните коментари, а сега бе публикуван голям репортаж на Йоав Шапирa (Yoav Shapira) в Time, водещ разработчик на класификаторите на потребителския тормоз, които се базират на най-съвременни невронни мрежи.

Най интересната от новите функции е тази, която блокира троловете по такъв начин, че те дори не забелязват това. Тролът продължава да бъде груб и да се държи просташки, но публикуваните от него коментари ги вижда единствено той самият. Това е идеалният вариант, при който грубиянът не се блокира, а ситуацията не се изостря. В тази функционалност не се използва ИИ.

Instagram

В съобщението за пресата се казва, че съвсем скоро Instagram ще представи нови функции за „сдържането на онлайн тормозенето“. Това става във време, когато гигантите на социалните мрежи се сблъскват с повишено внимание и повишена чувствителност към грубостта, с която се сблъскват много потребители. В целия свят нарастват призивите за засилване на контрола на платформите като Facebook и Twitter, което се случва на фона на нарастващата критика срещу разпространението на ненавист и фалшиви новини, както и за широкото разпространение на агресия и грубост в коментарите на тези платформи.

.td_uid_41_5d25e161f0a94_rand.td-a-rec-img{text-align:left}.td_uid_41_5d25e161f0a94_rand.td-a-rec-img img{margin:0 auto 0 0}

Instagram с аудитория от 500 милиона души е платформа за изображения. Тук потребителите качват своите снимки и видеа, които после се коментират от другите потребители.

Сега компанията официално заяви, че в продължение на много години използва ИИ за мониторинг на троловете и вредоносното съдържание, като вече е готова с интерфейса за непосредственото взаимодействие на този ИИ с потребителя.

Двете нови функции

Първо, това е технологията за моментално разкриване, кога потребителят се опитва да публикува нещо оскърбително. Системата ще започне да показва предупреждение преди да позволи публикуването на подобен коментар.

„Това ще даде на хората възможност да се замислят и евентуално да отменят своя коментар“ – заяви ръководителят на Instagram Адам Мосери. „От ранните тестове на тази функция ние разбрахме, че тя наистина подбужда някои хора да отменят своя коментар и да напишат нещо не толкова токсично. Просто трябва да им се даде време да помислят“.

Instagram

Втората нова функция е Ограничението (Restrict). С нейна помощ се ограничават оскърбителните коментари в лентата на потребителя. „Ние разбрахме от младите хора, че те не искат да си губят времето с блокиране, премахване на последователите или със съобщения за тролване. Това усложнява и изостря ситуацията“ – каза още Мосери.

Сега се пови нов вариант: да се направи така, че постовете на трола да са видими само за него. Грубиянът автоматично се поставя в ограничен (Restricted) режим. Тоест, той става буквално ограничен потребител.

„Ограничените хора не могат да виждат кога сте активни в Instagram и кога сте им прочели съобщенията“ – каза още Мосери.

Тези стъпки на Instagram имат за цел да защитят предимно тинейджърите. Според анкетата на изследователския център Pew Research Center, 72% от тинейджърите на САЩ заявяват, че използват Instagram.

Instagram

Заплашването и тролингът са само един от фронтовете, на които обществеността настоява социалните мрежи да предприемат действия. Растат призивите за регулация на тези платформи по отношение на фалшивите новини и съобщенията, предизвикващи ненавист.

Компаниите като Facebook например, започнаха да променят своята политика и вече внедряват функции за повишаване прозрачността и безопасността. Засега неособено успешно, но без натиска на обществеността и това нямаше да го има.

Изкуственият интелект

В интервюто за Time представителите на Instagram казаха, че за филтрирането на грубото поведение и тролинга в бъдеще ще се използват предимно технологии с елементи на изкуствен интелект, за да се постигне цялостното премахване на неуважението и издевателствата. Към днешен ден младите гора са наплашени и и се притесняват да съобщят за неподобаващо поведение, което да доведе до блокирането на трол. В бъдеще няма да се налага да правят това. Новата ИИ система самостоятелно ще се погрижи за слабите.

Time споделя, че създаването на изкуствен интелект за борба с грубостите и тролинга е своеобразен технологичен Еверест. Това означава, че машините трябва да бъдат обучени да разбират сложните нюанси на проблемите. От друга страна, Instagram ще трябва да се съобразява да не възникнат проблеми със свободата на словото и новите алгоритми не трябва филтрират излишни неща.

„Безпокоя се, че ако не бъдем достатъчно внимателни, можем да прехвърлим границата“ – каза още Адам Мосери. Но ръководителят на Instagram е готов да взема решения за понижаване активността на потребителите, ако това повишава безопасността.

Сайтът за споделяне на снимки на практика още от самото начало бе използван от перверзници. 20-годишните основатели на компанията Кевин Систром Майк Кригер по цели дни лично са премахвали неприятните коментари и са блокирали троловете. След това за започнали да използват ИИ инструмента DeepText, специално разработен за разбиране и интерпретиране на човешкия език.

Instagram

Специалистите на Instagram за първи път използваха DeepText през 2016 година за откриването на спам. През 2017 година той е обучен да намира и блокира оскърбителните коментари и умишлената грубост. През ноември 2018 година компанията обяви, че тяхната ИИ система ще анализира не само коментарите, но и постовете.

Когато специалистите искат да научат машината да изпълнява една или друга типична задача, те започват с обучаващ набор – комплект от опростени термини и материали, който задава правилата на работа на машината. Модераторите сортират стотици хиляди фрагменти и решават, дали съдържат тролинг и подигравки. Те отбелязват токсичните текстове и въвеждат тези примери в така нареченият класификатор. Разбира се, тези начални примери не могат да обхванат всичко, с което ще се сблъска класификаторът в реалния живот. Но машината постепенно се научава по какъв начин модераторите също се учат чрез появата на нови изречения и изрази. С течение на времето този алгоритъм с елементи на изкуствен интелект става все по-добър.

Към днешен ден Instagram използва за сканирането на съдържанието три отделни класификатора за разпознаване на тролинга. Единият е обучен да разпознава оскърбителния текст, вторият – снимките и третият – видеата. Тази класификатори вече работят в стандартен режим – те търсят, отбелязват и сортират съдържанието. Но засега допускат немалко грешки.

Разпознаването на токсичния текст е много по-трудно от разпознаването например на голотата. За ИИ е съвсем лесно да разпознае кой е облечен и кой не е, но разпознаването на широкия спектър поведение, което може да бъде счетено за издевателство и обида, е много по-трудно. Основната причина е, че даден текст за някои хора е обиден, а за други съвсем безобиден.

С други суми, дадена забележка може дълбоко да обиди даден човек, докато друг я приема с безразличие, неутрално и спокойно.

А специалистите трябва да дадат точни инструкции, кое да се счита за тролинг и кое не, за да се изгради надежден комплект от данни, които да се използват за машинното обучение.

Instagram

За да успее да разработи по-ефективен ИИ, Instagram в момента провежда анкета на хиляди потребители с надеждата по-добре да разбере всички словоформи и изрази, които в очите на аудиторията на тази онлайн услуга изглеждат като тролинг. Тези данни за първи път ще бъдат публикувани тази година.

Към днешен ден за обучаване на класификатора екипът на Шапирa е разделила тролинга на седем групи:

ОскърбленияЗасрамванеЗаплахиАтаки срещу личносттаНеуважениеНежелани контактиИзмяна

Грандиозният план е да бъде създаден изкуствен интелект, който е обучен да разбира всяка една от тези концепции.

Всяка седмица изследователите се отчитат за направените от тях разкрития за тролинг и почти всяка седмица се появява някаква нова форма на издевателство и обида, която специалистите дотогава не са си и мислели да търсят. Но Facebook и Instagram са напълно уверени, че могат да се справят с този проблем. Засега не е известно колко от 1200-те служители на Instagram и от около 37 700-те служители на Facebook работят върху този проект. Шапирa счита, че през следващите една-две години ще бъде постигнат невероятен успех в това направление.

Коментари
Все още няма коментари
Статистика
Прегледи 4
Коментари 0
Рейтинг
Добавена на10 Юли 2019
ИзточникKaldata

Тагове
Instagram
Ние във фейсбук