BibTeX который поддерживает 8-и битные кодировки нужен для правильной сортировки. Сейчас Bibtex не поддерживает 8 битные кодировки.
В Сизифе давно пявился пакет tetex-bibtex8