Planując montaż pompy ciepła trzeba zastanowić się nad wyborem właściwego typu systemu grzewczego. Optymalnym rozwiązaniem jest praca pompy ciepła przy możliwie wysokiej temperaturze gruntu lub powietrza oraz przy realnie najniższych parametrach zasilania systemu grzewczego budynku. Bardzo często instaluje się ogrzewanie w podłodze, które pracuje już przy wskaźnikach na zasilaniu ok. 40 st. C. Wytwarza ono prawidłowy zakres temperatur dla użytkownika – temp. podłogi jest wyższa przy niższej temperaturze na wysokości głowy. W trakcie ciepłych miesięcy system ogrzewania podłogowego może być stosowany do ochładzania pomieszczeń. Odrębnym rodzajem ogrzewania wodnego, który idealnie współdziała z pompą ciepła jest ogrzewanie płaszczyznowe montowane w ścianach lub sufitach. Układy kolektorów montuje się najczęściej w ścianach zewnętrznych obok okien. Na sufit stosuje się maty kapilarne lub kolektory grzewczo-chłodzące.
Jeśli nie ma możliwości zainstalowania urządzeń ogrzewania niskotemperaturowego na etapie budowy domu, powstały urządzenia, które można podłączyć w późniejszym czasie. Z pompą ciepła idealnie współdziałają klimakonwektory. Montowane są one na ścianie jak popularne grzejniki. Ich zasadniczą część stanowi wymiennik ciepła wraz z wentylatorem, który tworzy cyrkulację. Przeznaczone są do systemów niskotemperaturowych podczas zimy oraz do chłodzenia pomieszczenia w trakcie ciepłych dni. Wykorzystanie pompy ciepła nie eliminuje zastosowania tradycyjnych grzejników, jednak powinny one zostać dobrane proporcjonalnie do niskiej temperatury zasilania. Rozmiarowo będą one znacznie większe niż przy konwencjonalnym układzie ogrzewania. Użytkowanie ich w instalacji z pompą ciepła nie umożliwi chłodzenia domu w trakcie lata.