VDPAU geht soweit ich weiß nicht in Kombination mit Optimus, bei cuvid (was z.B. von mpv aber nicht von KODI unterstützt wird) sieht das soweit ich das gelesen habe besser aus. Für den Anwendungsfall muss es auch nicht unbedingt eine nvidia-Grafik sein, moderne Intel IGPs können HEVC (aka H.265) über VAAPI dekodieren und mit Quicksync hardwarebeschleunigt encodieren (https://trac.ffmpeg.org/wiki/Hardware/QuickSync).
Bei den Hardware-Encodern der IGPs bzw. dedizierten Grafikkarten muss man daran denken, dass die Qualitativ nicht ganz auf der Ebene von Software-Encoding sind - für Streaming und GoPro-Material ist das normalerweise gut genug, aber wenn man eine ordentliche Kamera hat, kann es sich lohnen die CPU rechnen zu lassen.
Eine Core i9 in einem Notebook dürfte das System unter Dauerlast thermisch ziemlich schnell an die Grenzen bringen, vermutlich kann man dessen Geschwindigkeitsboost nicht voll ausreizen - bei den Vorgängern des Precision 5540 war die Kühlung auch schon zu knapp dimensioniert - das Problem haben abgesehen von einigen wenigen Gaming-Notebooks aber praktisch alle Geräte (auch die MacBook Pros, wobei Apple da bei der aktuellen Generation wohl kräftig getrickst hat, so dass der Takt nicht allzu sehr abfällt und dafür höhere Temperaturen in Kauf genommen werden) - für langfristig rechenintensive Aufgaben würde ich mir lieber einen ordentlichen Desktop/Workstation hinstellen und das Notebook auf stromsparend und leicht trimmen.