собственно rc.sysinit вызывает fsck -Tay ...
который в свою очередь, запуская e2fsck обламывается об btrfs ибо:

#ifndef DEFAULT_FSTYPE
# define DEFAULT_FSTYPE "ext2"
#endif
....

static const char *really_wanted[] = {                                                                     
       	"minix",
       	"ext2",
       	"ext3",
       	"ext4",
       	"ext4dev",
       	"jfs",
       	"reiserfs"
};

таким образом проблема апстрима, но...

простое решение: fastboot (или rw) в параметры ядра
костыль: нарисовать чтото обходное в rc.sysinit
лучше всего: выкинуть родной fsck заменив его на скрипт, который об существущие fsck.* делать это самое

ps: что там с systemd не смотрел, возможно там проблемы нет