Visto che ho avuto lo stesso problema, e non sono riuscito a trovare una soluzione online, la scrivo io.
Se vi capita di visualizzare i sottotitoli in bassa qualità su VLC, come questo screenshot:
Se visualizzate i sottotitoli in questo modo, il problema è semplicemnte il "motore di rendering" che sta usando VLC per processare il video (e non solo). Andate in Strumenti -> Preferenze -> Video, e in Uscita impostate "Uscita video Direct3D"
