mathef hat ja schon den ersten Teil deiner Frage beantwortet, ich übernehme den zweiten Teil.
Wir fixieren einen beliebigen Homöomorphismus:
$$\Psi:[a,b]\to (a,b)$$
und benutzen einen weiteren (von mathef gegeben z.B.) Homöomorphismus:
$$\phi: (a,b)\to \mathbb{R}$$
Es sollte klar sein, dass Verknüpfungen von Homöomorphismen Homöomorphismen sind (wenn nicht: nachrechnen!), du bekommst also vor allem einen Homöomorphismus:
$$\Gamma = \phi\circ\Psi: [a,b]\to \mathbb{R}$$
Dieser ist natürlich eine stetige Bijektion. Insbesondere weißt du aus der Einführung in die Analysis, dass jede stetige reelle Funktion mit Definitionsbereich [a,b] ein Maximum haben muss. Da Gamma allerdings unbeschränkt ist (da bijektiv), besitzt sie kein Maximum, also kann es erst garkeinen Homöomorphismus Psi geben.
LG