Nvidia's XvMC library should go to /usr/X11R6/lib, not to /usr/X11R6/lib/nvidia_1.0.4496/ and should be called libXvMCNVIDIA.so, not libXvMC.so.nvidia so applications can be built and linked properly with it.
То, как называются файлы в /usr/X11R6/lib/nvidia_1.0.4496/ не имеет никакого значения. У Вас должна быть ссылка /usr/X11R6/lib/libXvMCNVIDIA_dynamic.so.1 А приложений никаких с ней собирать не нужно; для этого есть libXvMC.so