Bug 53335

Summary:	Снова пакет собран без GPU раннеров
Product:	Sisyphus	Reporter:	iQQator <iqqator>
Component:	ollama	Assignee:	Vitaly Chikunov <vt>
Status:	CLOSED FIXED	QA Contact:	qa-sisyphus
Severity:	normal
Priority:	P5	CC:	iqqator, vt
Version:	unstable
Hardware:	x86_64
OS:	Linux

Description iQQator 2025-03-06 09:43:28 MSK

Добрый день Виталий, обновил систему и обновилась ollama, в которой снова нет GPU раннеров :(

Соберите пожалуйста с ними...

Comment 1 Vitaly Chikunov 2025-03-06 14:15:00 MSK

Как я понял, вас не устраивали nvidia либы. Без них собрать поддержку cuda не получится.

Comment 2 iQQator 2025-03-09 21:19:45 MSK

(Ответ для Vitaly Chikunov на комментарий #1)
> Как я понял, вас не устраивали nvidia либы. Без них собрать поддержку cuda
> не получится.

На оборот, я говорил что их нет а не то что не устраивали ))
Спасибо за оперативность :)

load_tensors: offloading 28 repeating layers to GPU
load_tensors: offloading output layer to GPU
load_tensors: offloaded 29/29 layers to GPU
load_tensors:        CUDA0 model buffer size =  4168.09 MiB
load_tensors:   CPU_Mapped model buffer size =   292.36 MiB

все работает :)