Hallo,
ich habe es nun endlich geschafft, auch in Ubuntu (10.4) Sound per hdmi passthrough digital zum AV-Receiver zu schicken.
Zuerst startet man den alsamixer:
sudo alsamixer
Durch Druck von F6 kann man die passende Soundkarte auswählen:

Jetzt drückt man "M", um das Ausgabegerät zu unmuten:

Im nächsten Schritt testet man die HDMI-Ausgabe.
Zunächst lässt man sich sämtliche Audio-Geräte anzeigen:
aplay -l
Man erhält eine Liste der Soundkarten:
**** Liste der Hardware-Geräte (PLAYBACK) ****
Karte 0: XFi [Creative X-Fi], Gerät 0: ctxfi [Front/WaveIn]
Sub-Geräte: 8/8
Sub-Gerät #0: subdevice #0
Sub-Gerät #1: subdevice #1
Sub-Gerät #2: subdevice #2
Sub-Gerät #3: subdevice #3
Sub-Gerät #4: subdevice #4
Sub-Gerät #5: subdevice #5
Sub-Gerät #6: subdevice #6
Sub-Gerät #7: subdevice #7
Karte 0: XFi [Creative X-Fi], Gerät 1: ctxfi [Surround]
Sub-Geräte: 8/8
Sub-Gerät #0: subdevice #0
Sub-Gerät #1: subdevice #1
Sub-Gerät #2: subdevice #2
Sub-Gerät #3: subdevice #3
Sub-Gerät #4: subdevice #4
Sub-Gerät #5: subdevice #5
Sub-Gerät #6: subdevice #6
Sub-Gerät #7: subdevice #7
Karte 0: XFi [Creative X-Fi], Gerät 2: ctxfi [Center/LFE]
Sub-Geräte: 8/8
Sub-Gerät #0: subdevice #0
Sub-Gerät #1: subdevice #1
Sub-Gerät #2: subdevice #2
Sub-Gerät #3: subdevice #3
Sub-Gerät #4: subdevice #4
Sub-Gerät #5: subdevice #5
Sub-Gerät #6: subdevice #6
Sub-Gerät #7: subdevice #7
Karte 0: XFi [Creative X-Fi], Gerät 3: ctxfi [Side]
Sub-Geräte: 8/8
Sub-Gerät #0: subdevice #0
Sub-Gerät #1: subdevice #1
Sub-Gerät #2: subdevice #2
Sub-Gerät #3: subdevice #3
Sub-Gerät #4: subdevice #4
Sub-Gerät #5: subdevice #5
Sub-Gerät #6: subdevice #6
Sub-Gerät #7: subdevice #7
Karte 0: XFi [Creative X-Fi], Gerät 4: ctxfi [IEC958 Non-audio]
Sub-Geräte: 1/1
Sub-Gerät #0: subdevice #0
Karte 1: Intel [HDA Intel], Gerät 0: AD198x Analog [AD198x Analog]
Sub-Geräte: 1/1
Sub-Gerät #0: subdevice #0
Karte 1: Intel [HDA Intel], Gerät 1: AD198x Digital [AD198x Digital]
Sub-Geräte: 1/1
Sub-Gerät #0: subdevice #0
Karte 2: HDMI [HDA ATI HDMI], Gerät 3: ATI HDMI [ATI HDMI]
Sub-Geräte: 1/1
Sub-Gerät #0: subdevice #0
In dem Beispiel ist "Karte 2" die HDMI-Soundkarte.
Nun gibt man folgendes ein, um weitere Informationen zu bekommen:
cat /proc/asound/devices
2: : timer
3: : sequencer
4: [ 0- 4]: digital audio playback
5: [ 0- 3]: digital audio playback
6: [ 0- 2]: digital audio playback
7: [ 0- 1]: digital audio playback
8: [ 0- 0]: digital audio playback
9: [ 0- 0]: digital audio capture
10: [ 0] : control
11: [ 1- 1]: digital audio playback
12: [ 1- 1]: digital audio capture
13: [ 1- 0]: digital audio playback
14: [ 1- 0]: digital audio capture
15: [ 1- 0]: hardware dependent
16: [ 1] : control
17: [ 2- 3]: digital audio playback
18: [ 2- 0]: hardware dependent
19: [ 2] : control
Aus dieser Liste sucht man sich alle Ausgabegeräte der zuvor ermittelten Karte, in dem Beispiel also alle mit der "2". Da hier nur ein Ausgabegerät
die Bezeichnung "digital audio playback" trägt, ist das passende Ausgabegerät also "2,3".
Um die Ausgabe zu testen, empfiehlt es sich, auf der folgenden Seite ganz unten bei "Surroundtest" die 2 Audio-Dateien "DD" und "DTS" herunterzuladen:
http://sverigesradio.se/sida/default.aspx?programID=2445
Nun testet man die Ausgabe:
aplay -D hw:2,3 file.wav
Danach kann man auch noch einen test mit mplayer machen:
mplayer -ac hwac3 -ao alsa:device=hw=2.3 film.avi
Quelle:
http://alsa.opensrc.org/DigitalOut
Nach einigen Versuchen habe ich auch herausgefunden, wie man VLC dazu bewegt, digitalen Sound per HMDI auszugeben.
Zunächst muss man in Pulseaudio die HDMI Soundkarte deaktivieren, ansonsten funktioniert die digitale Ausgabe über dieses
Gerät in VLC nicht.

Danach wechselt man zu den Einstellungen von VLC und wählt unten Links bei Einstellungen "Alle" aus, um die Ansicht der
Einstellungen zu erweitern. Als Audioausgabe-Modul wählt man "ALSA-Audioausgabe".

Unter dem Menüpunkt "ALSA" wählt man nun noch das passende HDMI Ausgabegerät:

Jetzt sollte die Ausgabe problemlos funktionieren. Andere Programme wie XBMC etc. sollten auch funktionieren, wenn man unter
Pulseaudio das HDMI-Ausgabegerät zuvor deaktiviert hat.