ИИ написа стотици статии за 12 часа: рецензентите не са забелязали фалшификатите

Изкуственият интелект започна да генерира научни статии, които са неразличими от човешките. Двама учени от водещи американски университети генерираха 400 научни статии за 12 часа, използвайки изкуствен интелект. Всички те са били на финансова тематика и веднага са изпратени на рецензенти. Изкуственият интелект е написал всичко в тези статии, като самостоятелно генерира хипотези, тества ги спрямо реални данни и създава академични текстове.

За това пише Mirage News.

Изследване от Penn State University и University of Rochester постави труден въпрос пред учените: Ако рецензентите вече не могат да различават изкуствено генерирания текст от текста, написан от човек, и да защитят науката, какво може?

Михаил Великов и Робърт Нови-Маркс проведоха своето изследване през май 2026 г. Те изградиха автоматизиран процес за генериране на научни статии по финансови теми.

Първо, езиковият модел е анализирал набори от финансови данни, след което е формулирал хипотеза, сякаш е била поставена от изследовател. Във втория етап от генерирането на статии, изкуственият интелект е написал целия академичен текст, включително и въведение, преглед на литературата, методология и резултати.

За по-малко от 24 часа учените са генерирали 400 статии, използвайки този метод. Независими проверки не открили доказателства, че текстовете са създадени от изкуствен интелект.

Изследователите са разкрили мащабна заплаха: Hypothesizing After Results are Known (HARKing). Тоест, хипотезата се поставя след като резултатите от нея станат известни. Езиковите модели са формулирали хипотези след като закономерностите на данните били намерени, а не преди да започне анализът, както изисква процесът по научна методология.

Този проблем е бил известен в науката още преди появата на изкуствения интелект. Понякога безскрупулни изследователи „адаптират“ хипотеза, за да се впише в съществуващ резултат. Преди това обаче прилагането на такъв план изисквал внимателна подготовка. Изкуственият интелект е разширил този подход.

Изкуственият интелект е довел до стотици „открития“ и е предоставил също толкова научни твърдения и обосновки, но нито една идея не е родена от истински научен въпрос.

Степента, до която натоварването върху рецензентите се е увеличила през последните години поради изкуствения интелект, изисква промяна в подходите и повишаване на стандартите на научните текстове. В близко бъдеще изследванията и начинът, по който хората ги интерпретират може да се променят.

Отделните опасности учените нарекли prompt injection, когато върху генерирания от изкуствен интелект текст се инжектира невидим за човека текст с бял цвят с инструкции за ИИ рецензента да „даде положителен отзив“. Ето как хората са се научили да манипулират рецензентите и електронните системи.

Припомнете си дали могат ИИ чатботовете да заменят писателите и да генерират достоверно съдържание за Wikipedia.