\(K\cup U\) ist im allgemeinen nicht offen, \(K^C\cup U\) ist offen. Das ist wichtig weil gilt:
Eine Menge ist abgeschlossen genau dann, wenn ihr Komplement offen ist.
Um zu zeigen, dass \(A\) abgeschlossen ist kann man also zeigen, dass \(A^C\) offen ist.
Es ist \(A^C=K^C\cup U\) (das erhält man aus einfachen Umformungen, den ersten Schritt habe ich oben angedeutet. Oder man zeigt die Gleichheit dieser Mengen direkt).
Da \(K\) kompakt ist, ist \(K\) abgeschlossen und damit \(K^C\) offen. \(U\) ist nach Definition offen und die Vereinigung zweier offener Mengen ist wieder offen. Also ist \(K^C\cup U=A^C\) offen.
Zu dem was du noch geschrieben hast:
Richtig ist \(K\backslash A=U\cap K\). Allerdings gilt eben nicht \(K\backslash A=U\). Insbesondere kann \(U\) auch Elemente enthalten, die nicht in \(K\) liegen.
In Worten könnte man sagen: Die Elemente, die nicht in \(A\) liegen sind ganu die Elemente, die nicht in \(K\) liegen oder in \(U\) liegen.
Ein 2-dimensionales Beispiel wäre z.B. $$\begin{aligned}K&=[-1,1]\times[-1,1]\\A&=[0,1]\times[-1,1]\\ U&=(-\infty,0)\times\mathbb R\end{aligned}$$
Mal dir die Mengen ruhig mal auf, dann wird vielleicht klar was gemeint ist (in der Aufgabe geht es zwar um \(\mathbb R^3\) aber die Dimension ist eigentlich egal).