Bug 53335 - Снова пакет собран без GPU раннеров
Summary: Снова пакет собран без GPU раннеров
Status: CLOSED FIXED
Alias: None
Product: Sisyphus
Classification: Development
Component: ollama (show other bugs)
Version: unstable
Hardware: x86_64 Linux
: P5 normal
Assignee: Vitaly Chikunov
QA Contact: qa-sisyphus
URL:
Keywords:
Depends on:
Blocks:
 
Reported: 2025-03-06 09:43 MSK by iQQator
Modified: 2025-03-09 21:19 MSK (History)
2 users (show)

See Also:

Attachments
Add an attachment (proposed patch, testcase, etc.)

Note You need to log in before you can comment on or make changes to this bug.
Description iQQator 2025-03-06 09:43:28 MSK 
Добрый день Виталий, обновил систему и обновилась ollama, в которой снова нет GPU раннеров :(

Соберите пожалуйста с ними...
Comment 1 Vitaly Chikunov 2025-03-06 14:15:00 MSK 
Как я понял, вас не устраивали nvidia либы. Без них собрать поддержку cuda не получится.
Comment 2 iQQator 2025-03-09 21:19:45 MSK 
(Ответ для Vitaly Chikunov на комментарий #1)
> Как я понял, вас не устраивали nvidia либы. Без них собрать поддержку cuda
> не получится.

На оборот, я говорил что их нет а не то что не устраивали ))
Спасибо за оперативность :)

load_tensors: offloading 28 repeating layers to GPU
load_tensors: offloading output layer to GPU
load_tensors: offloaded 29/29 layers to GPU
load_tensors:        CUDA0 model buffer size =  4168.09 MiB
load_tensors:   CPU_Mapped model buffer size =   292.36 MiB

все работает :)