Ein Problem ist jedenfalls, dass jeder elektrische Leiter durch den Spannungsschwankungen mit einer bestimmten Frequenz fließen ein elektromagnetisches Störsignal mit der dementsprechenden Frequenz aussendet - je höher der Stromfluss auf der Leitung, desto höher ist auch die Sendeleistung eines solchen Störsenders. Das ist gerade bei Schaltnetzteilen ein sehr großes Problem und führt sogar häufig zu einem Konflikt mit Amateurfunkern bis hin zum Ausrücken der Störfunk-Jäger der Bundesnetzagentur. So hat zB mal ein alter Radiowecker einen Flughafen lahmgelegt.
Allerdings liegst du bei hörbaren Frequenzen in einem Bereich, wo die Leitung schon sehr lang sein müsste - vor dem Verstärker ist das garantiert nicht der Fall, und hinterm Verstärker würdest du schon eine sehr hohe Sendeleistung benötigen um das Signal im Kabel des Kopfhörers zu beeinflussen - insbesondere sollte das Stahlgehäuse des Rechners das ganze eigentlich abschirmen.
Was ich mir aber noch vorstellen könnte sind Störungen auf der Stromleitung. Dort sind auch ohne so ein problematisches Bauteil reichlich Störungen drauf, weshalb Audioschaltkreise üblicherweise entsprechende Maßnahmen haben um die Störungen herauszufiltern. Die haben aber auch ihre Grenzen, möglicherweise schwankt die Spannung durch die Grafikkarte einfach etwas zu stark - da das ganze auch mit niedriger Last passiert schließe ich mal ein überfordertes Netzteil aus (immer wenn nicht genug Strom geliefert werden kann, geht die Spannung in den Keller).
Hast du für die Stromanschlüsse der Grafikkarte noch andere Stecker vom Netzteil zur Verfügung? Nicht wenige Netzteile haben für die 12V Versorgung mehrere separate Stromschienen, wenn du hier gezielt eine andere benutzen kannst könnte das evtl schon Ausreichen um deine Audiochips von der Störquelle zu isolieren. Wenn sich die Last falsch auf die Stromschienen verteilt könnte dies sogar trotz eines ausreichend starken Netzteils zu einer Unterversorgung führen, welche normalerweise durch entsprechende Schutzschaltungen im Netzteil zur Notabschaltung führen sollte. Aber Ausnahmen bestätigen ja die Regel, im Kontext billiger Netzteile ist auch gerne mal von "Chinaböllern" die rede...