Das Problem der Backboxes sehe ich langfristig nicht. Die Rückverfolgbarkeit ist nur eine Frage der Programmierung (Regelwerk)
Es gibt kein aber gerade kein programmiertes Regelwerk, das als Ergebnis vom Maschinenlernen entsteht. Du hast im Kern nur eine sehr große Sammlung von Parametern (Bei ChatGPT wahrscheinlich inzwischen in der Größenordnung von einer Billion), die zufällig verändert wurden bis es auf den Trainingsdaten gut genug funktioniert hat. Dafür brauchst Du halt eine extrem große Rechenleistung. Im Ergebnis weiß man dann nur, dass es auf den Trainingsdaten "funktioniert" hat, aber nicht warum.