XBMC verstellt Audio-Treiber nach jedem Start

Das problem hat ich auch ne zeit lang, hab dann einfach in windows unter wiedergabe alles bis auf den hdmi deaktiviert, sprich spdif und analog aus,hat bei mir geholfen. Hängt irgendwie mit der automtischen erkennung des recievers zusammen.

Ob ich dir helfen kann, steht noch nicht fest, aber ich habe da so 2-3 Vermutungen
Diese Vermutung sagt, dass du hier gerade 2 unterschiedliche Probleme hast .....

Problem 1: Der Audio Codec

1. Du schreibst, du hast für Passthrough WASAPI eingestellt. Das ist völlig OK, aber ich "normalerweise" ist in einem m4a nicht mit DTS Ton versehen. OK, es mag Ausnahmen geben, aber eigentlich ist m4a eine Alternative zu mp3, auch inhaltlich.
Das heisst, es dürfte ziemlich egal sein, was du da eingestellt hast. Auch vom Titel her klingt das ausgewählte Stück eher mach einem Stereo Song. Wohin ein Stereo Signal ausgegeben wird, entscheidet eigentlich der EIntrag "Audio Output Device", bzw. Audio Ausgabegerät. Dort hast du "DirectSound: Digitalaudio (S/PDIF) (Juli@ Audio)" ausgewählt. D.H. du hast an deinem Rechner hoffentlich auch ein SPDIF Kabel zum Verstärker angeschlossen.

2. Die Tatsache, dass er die m4a Dateien nicht abspielt ist schon komisch, denn XBMC kann das. Ich vermute ganz ehrlich gesagt jedoch 2 Ursachen, dass es nicht klappt.
2.1 Ursache 1: Es handelt sich um einen gekauften Song, mit DRM. Diese Songs kann XBMC nicht abspielen. Es sollte auch nicht mit VLC oder anderen Playern funktionieren.
2.2 Ursache 2: Es steht zwar m4a in der Dateierweiterung, aber es ist in Wirklichkeit ein anderer Codec. Wie rausfindet, welcher Codec das ist, kann ich dir nicht sagen, da ich diesbezüglich keine große Ahnung habe. Probiere doch mal aus, dass ganze in .mp3 abzuändern und nochmal abzuspielen. ggfs. versuche mal wav.
2.3: Nur eine Idee: Was passiert, wenn du exakt diese ausgewählten Stücke in VLC abspielst? Gehen dann alle ? Was steht dort unter "Codec Info" ? (Abspieln und STRG-J" drücken.) Theoretisch sollte da etwas im Sinne von

Typ: Audio
Codec: MPEG Audio layer 1/2/3 (mpga)
Kanäle: Stereo
Abtastrate: 44100 Hz
Bitrate: 192 kb/s

stehen, wenn es sich hierbei um eine MP3 Datei handelt, bzw.

Typ: Audio
Codec: MPEG AAC Audio (mp4a)
Kanäle: Stereo
Abtastrate: 44100 Hz

bei einer m4a Datei.

Soviel zum ersten Problem ....
Nun zum zweiten Problem: Die Einstellung der Sound Einstellung.

1. Öffne mal das Control Panel deiner NVidia Grafikkarte. (Rechtsklick auf Desktop und dort auf "Nvidia Systemsteuerung" klicken. Unter Auflösung ändern" werden dir unter anderem alle Auflösungen deines Monitors, bzw. in deinem Fall deines AVR angezeigt. Bei einer Einstellung steht dann dahinter: (nativ).
Das entspricht der Standardauflösung deines AV Receivers. Bei meinem Denon 1909 ist diese Auflösung 1920x1080i (nicht p!!!).
Diesen Wert merken und in XBMC unter Einstellungen > System > Video Hardware -> Auflösung als Standard Auflösung für XBMC einstellen.
Bei mir war die Konsequenz, dass die Standardeinstellung im Sound nicht mehr von WASAPI umgestellt wurde.
Bitte beachte, dass diese Einstellung nicht bedeutet, dass dein AVR kein 1080p unterstützt (Das tut er nämlich), aber es ist nicht seine Standardauflösung. Wie gesagt konnte ich bei mir durch diese Einstellung verhindern, dass die Sound Einstellungen geändert wurden. Ich kann aber unabhängig davon immer noch 1080p Filme sehe, da XBMC die Auflösung entsprechend anpasst, zumindest sagt mein TV, dass er ein 1080p Signal bekommt.

Ich hoffe, dass ich damit nicht ganz auf dem Holzweg liege !

Wie genau sind denn die Geräte bei dir angeschlossen?
Also was hängt wo dran ? und vor allem wie (mit welchem Kabel) ?

Die Verbindung HTPC -> AVR -> TV verstehe ich. Und in Anbetracht von HD Ready verstehe ich auch die Auflösung.
Warum hast du denn nochmal den HTPC mit Coax und Analog an den AVR angeschlossen?
Diese beiden Verbindungen sind doch eigentlich unnötig, da sämtlich AV Signale via HDMI übertragen werden.
OK, es ändert gerade nichts am Problem, aber es reduziert Fehlerquellen.
Auf der anderen Seite verstehe ich die Vorgehensweise in Anbetracht der Soundkarte

Was passiert denn, wenn du den NVidia Treiber Standardmäßig auf die 1366 x 768 einstellst?
Dann dürfte schon mal das mit dem Verlust der Passthrough Sound Einstellung weg sein.