Нужен yasm >= 0.5.0, а лучше 0.6.0. В текущем сизифовском (0.4.0 от 2004-го года) нет поддержки инструкций SSE3. В частности, хотелось бы получить SSE3 оптимизацию для x86_64 в x264 (она там только что появилась)
fixed in 0.6.0-alt1