52640 2025-01-08 23:58:43 +0300 При запуске через systemd не видит видеокарту 2026-02-08 21:27:21 +0300 1 1 4 Development Sisyphus ollama unstable x86_64 Linux CLOSED FIXED P5 enhancement --- 1 alexei.mezin vt amakeenk snowmix vt zhenyakoltsov qa-sisyphus oldest_to_newest 256973 0 alexei.mezin 2025-01-08 23:58:43 +0300 systemctl start ollama В логах видно следующее level=INFO source=gpu.go:221 msg="looking for compatible GPUs" ... level=INFO source=gpu.go:610 msg="no nvidia devices detected by library /usr/lib64/libcuda.so.550.135" level=WARN source=gpu.go:732 msg="unable to locate gpu dependency libraries" level=INFO source=gpu.go:386 msg="no compatible GPUs were discovered" А вот как это же место выглядит при запуске от юзера $ ollama serve ... level=INFO source=gpu.go:221 msg="looking for compatible GPUs" ... level=INFO source=types.go:123 msg="inference compute" id=GPU-65e1aaaf-bdf4-f0de-78c5-a1602b838a2f library=cuda variant=v12 compute=8.6 driver=12.4 name="NVIDIA GeForce RTX 3060" total="11.7 GiB" available="11.1 GiB" 258065 1 amakeenk 2025-01-26 19:33:28 +0300 Тоже столкнулся с данной проблемой. 258069 2 amakeenk 2025-01-26 20:55:23 +0300 Решение: ``` --- /usr/lib/systemd/system/ollama.service-orig 2025-01-26 20:51:49.357423016 +0300 +++ /usr/lib/systemd/system/ollama.service 2025-01-26 20:52:12.928733751 +0300 @@ -11,7 +11,7 @@ -PrivateDevices=true +PrivateDevices=false ``` 258145 3 zhenyakoltsov 2025-01-28 06:07:28 +0300 В чем заключается решение, изменить параметр PrivateDevices=true на PrivateDevices=false или наоборот? 258360 4 vt 2025-01-31 02:19:44 +0300 В текущей версии (0.5.7-alt1) нет поддержки CUDA. Так что хоть она и увидела GPU и пишет `PROCESSOR` `100% GPU` в `ollama ps` обработка все равно должна идти на CPU. Планирую её включить после того как смогу проверить и протестировать функционал. Но, пока у меня доступа к видеокартам нет. PrivateDevices я уберу, спасибо. 258472 5 vt 2025-02-03 04:37:57 +0300 Сделал экспериментальное задание с поддержкой CUDA (NVIDIA GPU): apt-repo test 372923 258512 6 snowmix 2025-02-03 18:31:35 +0300 Попробовал тестовое задание. Всё успешно работает nvtop показывает 98-100% загрузки GPU. 281627 7 repository-robot 2026-02-08 21:27:21 +0300 vtkaddon-0-alt4.git.2c1998e -> sisyphus: Sat Feb 07 2026 Anton Farygin <rider@altlinux> 0-alt4.git.2c1998e - cherry-picked upstream fixes for VTK 9.5 compatibility (ALT #52640)