Текущее сизифовский libx264 вызывает либо сегфолт ffmpeg, либо получающаяся картинка становится зеленой. Все это проявляется на 32bit системах. Расследование показало, что во всем виноват yasm, с которым ведется сборка на 32bit системах.
Created attachment 2160 [details] x264-svn-r671-yasm.patch воркэраунд
fixed in x264-0.56-alt0.671.1