Въпреки забраната на Meta за рекламиране на приложения за „разсъбличане“ на хора, един от най-големите партньори на компанията в Китай, GatherOne активно е публикувал такива обяви във Facebook и Instagram, съобщава Tech Transparency Project.
Въпреки че Facebook и Instagram са официално блокирани в Китай, Meta позволява на оторизирани партньори като GatherOne да публикуват реклами на китайски компании за потребители в чужбина. Както установи Tech Transparency Project, агенцията е публикувала хиляди обяви с AI приложения, които могат да „разсъбличат“ жени или да създават порнографски видеоклипове с тяхно участие. Част от тази реклама съдържаше откровени изображения или имитация на сексуални сцени.
Tech Transparency Project установи връзка между тази реклама и GatherOne, благодарение на данни от Meta Ad Library – библиотеката с рекламни обяви на Meta. Всички открити обяви са били публикувани от акаунти, в които като рекламодател и платец е посочена GatherOne или пълното ѝ име – Hongkong Gather Wisdom Network Technology Co. Ltd.
Открити са 210 страници във Facebook, които общо са публикували над 30 800 реклами на приложения за замяна на лица, насочени към потребители от Европейския съюз. От тях 43 страници са публикували над 7600 реклами на AI приложения за „разсъбличане“ на жени във Facebook и Instagram. Още 160 страници разпространяваха реклами с изображения на жени, които се събличат или имитират сексуални сцени, генерирани от AI изображения на целуващи се хора, както и промотираха AI приложения за възрастни (18+).
По-голямата част от страниците – 179 от 210 (85%) са публикували реклами, които Meta впоследствие е премахнала от своята библиотека поради нарушение на правилата. По-конкретно ставаше въпрос за политиките относно сексуалната експлоатация и тормоза, както и за голо или откровено сексуално съдържание.
Много рекламни обяви на GatherOne насърчаваха потребителите да качват снимки на реални жени и да използват изкуствен интелект, за да ги поставят в интимни или порнографски видеосцени. В някои случаи за тази цел дори са били използвани снимки на деца. Някои приложения, като например BAfter са били разработени от китайски компании и са разполагали с премиум функции, които са стрували от 6,99 евро на седмица до 169,99 евро за постоянен достъп.
Meta вече е премахнала по-голямата част от рекламните обяви на GatherOne от своята библиотека поради нарушение на собствените си правила. В същото време не е ясно дали това се е случило преди те да бъдат показани на потребителите или след приключването на рекламните кампании. Въпреки това TTP откри най-малко две дузини страници във Facebook, свързани с GatherOne, които продължаваха да публикуват подобни реклами дори след като Meta беше премахнала предишните обяви поради нарушение на правилата.