Изследователи от Оксфордския интернет институт (OII) и Института „Хасо Платнер“ установиха, че инструментите за изкуствен интелект в социалните мрежи могат систематично да внасят скрити предубеждения в публикациите на потребителите. В хода на експеримента моделите редактираха публикации по спорни теми и демонстрираха устойчиви тенденции: например, по-често насочваха текстовете в подкрепа на контрола върху оръжията и феминизма, но в същото време са срещу атеизма и смъртното наказание. Симулациите показаха, че тези „скрити” редакции могат постепенно да повлияят на обществените настроения.
Учените възложиха на няколко ИИ-модела от различни разработчици да подобрят публикациите на потребителите в социалните мрежи по теми, предизвикващи обществени спорове. След това изследователите сравниха първоначалните публикации с версиите, създадени от ИИ, и провериха дали изразената в тях позиция се е променила.
Оказа се, че езиковите модели често внасят не само стилистични промени, но и променяха тона и насочеността на публикациите. При това различните модели демонстрираха сходни тенденции. Те по-често променят текстовете в подкрепа на определени позиции, например контрол над оръжията, легализиране на растителните наркотици и феминизма, и по-често се обявяват против други, включително атеизма и смъртното наказание.
Натрупване на изкривяванията в социалния графИзследователите също така проведоха компютърно моделиране въз основа на данни от социалните мрежи X и Facebook, за да оценят дългосрочните последствия от тези промени.
Симулациите показаха, че дори и малките промени в отделните публикации могат постепенно да се разпространят в рамките на онлайн общностите и да доведат до промяна в колективните възгледи.
Отделно учените проучиха функцията на X „Обяснете този пост“, която работи на базата на модела Grok. На примера на публикации по темата за абортите те установиха, че системата по-често генерира обяснения, благоприятни за привържениците на забраната на абортите. Анализът на настройките показа, че този ефект може да е свързан с една конкретна инструкция на платформата, призоваваща модела при необходимост да оспорва общоприетите нарративи.
Авторите на изследването считат, че използването на ИИ в социалните мрежи създава нов механизъм за влияние върху обществения дискурс, който все още не е достатъчно отчетен в регулаторните правила. ИИ-комуникацията се превръща в по-фина форма на формиране на общественото мнение, тъй като влиянието се осъществява не чрез създаване на ново съдържание, а чрез промяна на вече съществуващи публикации на потребителите.