Anthropic забрани на потребителите да проявяват „продължително и ненужно обидно или жестоко и грубо поведение“ спрямо своите модели, докато ръководството на компанията продължава да обмисля въпроса за съзнанието на машините.
Представител на Anthropic, която създаде AI чатбота Claude, не отговори веднага на запитване относно това какво може да се счита за „обидно или жестоко“.
В онлайн политиката за ползване на своя AI компанията, базирана в Сан Франциско, отбеляза, че забраната ѝ не се отнася за обичайните изблици на неудовлетвореност от страна на потребителите, тестването на моделите и „мрачните творчески теми“.
Политиката на за Anthropic за ползване на нейните AI услуги и преди съдържаше ограничения относно обидното поведение.
Големите езикови модели на компанията имат възможност да прекратяват разговора, ако даден потребител упорито проявява агресия и вредно поведение. Когато тази функция бе въведена през август миналата година, компанията я представи като предпазна мярка за благосъстоянието на изкуствения интелект.
„Продължаваме да имаме големи съмнения относно потенциалния морален статус на Claude и другите LLM, както сега, така и в бъдеще. Приемаме въпроса сериозно и успоредно с нашата изследователска програма работим за идентифициране и внедряване на нискобюджетни мерки за смекчаване на рисковете за благосъстоянието на модела, в случай че такова благосъстояние е възможно. Даването на възможност на моделите да прекратяват или да излизат от потенциално стресиращи взаимодействия е една от тези мерки“,
се посочва в уеб сайта на компанията.Представата, че ИИ системите притежават съзнание, предизвиква силно поляризирани мнения както в технологичния свят, така и извън него.
Изпълнителният директор на Anthropic Дарио Амодей заяви, че не може да изключи тази възможност.
Междувременно Сам Алтман, главен изпълнителен директор на конкурентната компания OpenAI, изглежда не е съгласен с тази идея.
„Чувствам се много некомфортно, когато хората се опитват да приписват религиозна сила или отказ на човешкото преценяване на AI моделите и мисля, че това е истински проблем, свързан с безопасността“,
написа той в публикация в X, дни след като „Ню Йорк Таймс“ съобщи за задълбочените разговори на ръководителите на Anthropic с религиозни учени.