Известният ютубър PewDiePie представи Odysseus – локална алтернатива на ChatGPT

Известният ютубър PewDiePie представи Odysseus – отворена платформа за локално стартиране на AI модели. Според автора проектът трябва да се превърне в алтернатива на ChatGPT и други облачни услуги за потребители, които искат да съхраняват данните си на собствения си компютър.

През последните месеци PewDiePie активно експериментираше с Linux и локални езикови модели. В новото си видео той обяснява, че не е доволен от модела на работа на популярните AI услуги, които получават достъп до голямо количество информация за потребителите чрез техните запитвания, документи и история на комуникацията. Именно затова той решава да създаде Odysseus – отворена платформа, която позволява стартирането на езикови модели локално, без да е необходимо предаването на данни на външни компании. В този случай всички файлове, историята на чатовете и настройките остават на компютъра на потребителя.

Odysseus поддържа локални модели чрез Ollama, llama.cpp и vLLM. Платформата може да работи и с облачни услуги като OpenAI и OpenRouter, ако потребителят пожелае да използва външни модели.

Сред възможностите на проекта са:

чат с локални и облачни модели; агентен режим с поддръжка на инструменти; система за памет; работа с файлове; автоматичен подбор на модели в зависимост от конфигурацията на компютъра.

Отделно PewDiePie отбеляза, че значителна част от проекта е създадена с помощта на изкуствен интелект. В хранилището се споменават Claude, DeepSeek, Qwen и други AI модели, които са били използвани по време на разработката. Проектът се разпространява с отворен код чрез GitHub. Според автора, основната цел на Odysseus не е да се конкурира с ChatGPT или Claude, а да предостави на потребителите по-голям контрол над собствените им данни и възможност да стартират AI на собственото си оборудване.