Sí, deja la calefacción dentro.
El cambio tampoco sería tan caro como calculas. Una caldera de condensación nueva podría costar entre 5 y 10 mil. Pintar la fachada no es barato por el andamio, pero tampoco debería costar 20.000 €... Cambiar la calefacción se puede hacer relativamente limpio, tampoco es un problema si la casa está habitada.
Lo que yo haría en su lugar y también incluiría en la financiación: hagan los baños nuevos directamente. Si ya dices que no les gustan pero pueden vivir con ellos, no es una buena base. Les va a molestar todos los días, probablemente a tu esposa más que a ti. Renovar los baños genera un polvo increíble, hacerlo en una casa habitada es imposible o horrible para la calidad de vida.
¿Qué pasa con la electricidad? Aquí aplica lo mismo que para los baños, pero peor. Definitivamente no es posible en una casa habitada.