Пакет libbtrfs-devel не содержит libbtrfsutil.so поэтому слинковаться с ней нельзя. При этом в /usr/lib64/pkgconfig/libbtrfsutil.pc есть строка Libs: -lbtrfsutil
btrfs-progs-5.14.2-alt2 -> sisyphus: Sun Oct 17 2021 Anton Farygin <rider@altlinux.ru> 5.14.2-alt2 - added libbtrfsutil.so to the devel package (closes: #41137)
Спасибо.