VLC kommt erst in Version 1.10 - jedoch nicht die aus dem PPA für Karmic/Lucid" mit einer Unterstützung für HD Beschleunigtes abspielen heraus (bei NVIDIA ; VDPAU)
Sollte hoffentlich in der nächsten Version von Ubuntu (Maverik) der Fall sein
Einstweilen bleibt dir nur der Versuch mit SMPlayer und einen neuren MPlayer - beides auf http://smplayer.sourceforge.net/downloads.php?tr_lang=de zu finden.
Jedoch werden trotzdem das der SMPlayer "VDPAU" kann (sofern dein NVIDIA GrafikTreiber es für deine Garfikkarte anbietet) die Bilder bei 1080p leicht Ruckeln oder der Ton ist nicht 100% Syncron je nach Film und Codec.
Mal sehen sollte sich im "Maverik" ja ändern wenn neue FFMPEG Bibliotheken am Markt sind die bessere Hardwarebeschleunigung der Grafikkarte nutzen.
Bis dahin kannst du nur versuchen im Smplayer folgende Optionen einzustellen die eine Besserung erzielen :
Skip Frames (Bilder Überspringen) bei HD einschalten.
Loop Filter ausschalten.
Threads zum dekodieren auf 8 stellen.
Größtmöglichen Cache einstellen.
VDPAU Verwenden (funkt auch ohne wenn du nen schnellen Rechner hast und es dich nicht stärt das die Systemlast 100% beträgt).
Habe auch gehört das es helfen solle ein "RealTime" Kernel zu installieren - habe ich jedoch noch nicht probiert.
Filme mit WMV9 und VC1 Codec lassen sich besser in 1080p - ohne Ruckeln und Stottern - abspilen als H/X 264 Codec Filme.
Auch auf fps (Bilder pro Sekunde) mit denen der Film erstellt wurde kommt es an, wenider fps kaum bis gar kein Ruckeln, mehr fps stärkeres Ruckeln oder asynchron.
Aber tröste dich , auch unter Windows 7 funkt das (noch) nicht richtig, außer du hast einen käuflich erworbenen BluRay Spieler der über ein multi threading Codec für H264 verfügt der spielt das sauber ab.
Kostet aber auch ne Kleinigkeit der Player.
Es soll auch ein modifiziertes H/X264 Codec für Linux geben (kostenpflichtig) was Multi Threading unterstützt.
Also mal abwarten was "Maverik" so bringt, dauert eh nur mehr knapp 2 Monate.