Danke für die Antworten! Ich habe weiterhin alles Mögliche durchprobiert, CEC deaktiviert (System/Eingabe/Peripheriegeräte/CEC Adapter "aktiv" abgewählt) und auch die Nightly Version verwendet, es hat aber nichts verändert.
Da ich schon zahlreiche Einstellungen angepasst und getestet habe, habe ich dann in einem letzten Versuch nochmal neu das blanke Image von Librelec 12.0.1 auf die gleiche SD Karte gespielt und in der neuen Installation die Auflösung und erlaubten Auflösungen gesetzt (nebst Basiseinstellungen wie Netzwerk etc.). Und plötzlich scheint es zu gehen! Das ist zwar gut, aber natürlich weiß ich nicht, woran das Problem letztendlich lag.