Призивите за регулиране на дейността на компаниите, занимаващи се с изкуствен интелект се чуваха още от самото начало на така наречения „хайп“. Същото важеше и за опасенията относно бъдещето на човечеството в новите ни условия, свързани с тази невиждана досега технология. Загрижените хора говореха з...
Прочети още →Изследователят от OpenAI Ноам Браун заяви в подкаста Dwarkesh Podcast, че дори физическата изолация на компютрите от външните мрежи в бъдеще може да не гарантира, че обменът на данни между ИИ-системите ще бъде невъзможен. Например, компютрите са способни да предават информация чрез промени в темпера...
Прочети още →OpenAI планира да позволи на независими организации да проверяват безопасността на новите ИИ модели, докато те се разработват. Преди това външни експерти получаваха достъп до моделите най-вече с приближаване на пускането им. Сега компанията иска да провежда подобни проверки по-рано в етапите на обуч...
Прочети още →В последно време песимистичните прогнози за изкуствения интелект наистина набраха скорост. Само преди няколко дни писахме за бивш изследовател от Anthropic, който оцени вероятността изкуственият интелект да „убие всички хора“ на Земята до 2030 година на над 10%. Не се страхувайте обаче, защото Дженс...
Прочети още →Колко реалистични са най-песимистичните прогнози за изкуствения интелект? През последните дни бяха направени няколко шокиращи твърдения относно безопасността на изкуствения интелект. Твърди се, че сме изправени пред 10% вероятност от бедствие; изкуственият интелект е по-опасен от ядрените оръжия;...
Прочети още →