В logrotate-файле transmission-daemon используется init-скрипт. Надо хотя бы использовать утилиту service, которая сама определяет systemd.