Was passiert wenn Du die Lautsprecher abziehst, ein paar Sekunden wartest und sie dann wieder ansteckst?
Normalerweise öffnet sich dann ein Konfigurationsprogramm von Realtek und fragt was Du da angeschlossen hast. Passiert das nicht, rufst Du dieses Programm mal manuell auf (Ist im Systray oder im Startmenü) und entfernst da drin das Häkchen bei "Audiogeräte erkennen". Ist irgendwo unter Einstellungen oder Erweitert oder so in diesem Programm, weiß nicht mehr genau. Dann müsste es normalerweise funktionieren...
Zu Deinen Stabilitätsproblemen: Hab meinem Vista auch schon einige abenteuerliche Treiber zugemutet, teilweise noch aus der Try-and-Error Zeit, als Vista gerade veröffentlicht war. Sogar inkompatible XP-Treiber hab ich ihm mal gewaltsam untergejubelt (weil es für meinen Scanner keinen Vista-Treiber gab) Da gab es einige die nicht funktioniert haben, aber abgestürzt ist es mir trotzdem nie.
Die Probleme, die Du beschreibst könnten am Speicher liegen. Vista versucht, den vorhandenen Arbeitsspeicher soweit wie möglich auszunutzen, er ist unter anderem deshalb weit mehr belegt und beansprucht als unter XP. XP hat den Speicher möglicherweise nie soweit belegt, dass da Probleme auftreten konnten. Wenn Du mehrere Speichermodule drin hast, nimm mal wechselweise eins oder mehrere raus, und schau ob sich was ändert.