Wenn Du die Nebenbedingung U=2a+2b bzw. 16 =2a+2b nach a auflöst, dann erhältst Du a=8-b.
Dies musst Du dann in die Hauptbedingung einsetzen.
Also
d²=f(b)=(8-2b)²+b²
Dies führt dann zu einer quadratischen Funktion, deren Maximum, du mit Hilfe der Scheitelgleichung oder durch Ableiten finden kannst.