Slaba stran vseh toplotnih črpalk je glasnost kompresorja. Na srečo imajo novejše toplotne črpalke vedno tišje kompresorje oziroma boljše izolacije, tako da tudi zvok ni več toliko moteč. Paziti pa moramo, da zunanje enote s kompresorjem ne postavimo npr. pod okno spalnice. Glasnost zvoka je okoli 52 decibelov - odvisno od modela. Na razdaliji 3 metrov je pri odprtem oknu zvok komaj slišen.

Omejitev oz. slabost toplotne-črpalke voda-voda je,  da rabimo vodni vir z dovolj močnim in zanesljivim pretokom vode (vodne žile si namreč lahko najdejo drugo pot), slabost pri  toplotnih črpalkah zemlja-voda pa je, da potrebujemo precej veliko površno parcele kjer so položeni zemeljski kolektorji, saj mora biti ta površina vsaj 2x večja kot velikost ogrevanega objekta.

Cena toplotnih črpalk voda-voda in zemlja-voda je visoka in previdni moramo biti glede ekonomičnosti nakupa glede na cenejše inverterske toplotne črpalke zrak-voda.

Imajo pa cenejše toplotne črpalke zrak-voda nižji COP - grelno število (izkoristek). Potrebno je dobro pretehtati katera toplotna črpalka je za individualne potrebe najustreznejša, predvsem pa najbolj rentabilna.

Vsak prodajalec zagovarja svoje in potrebno je pridobiti kar nekaj strokovnih nasvetov in ponudb, da se lahko dobro in objektivno odločimo.

Dodatne slabosti toplotne črpalke zemlja-voda so nižji COP pri dalj časa trajajočem delovanju, saj se zemlja okoli kolektorja zaradi odvzemanja toplote ohladi in to pri geo-sondah, kot običajnih zemeljskih kolektorjih.

Za geo-sonde moramo pridobiti tudi vrsto dovoljenj zaradi posega v okolje, kar povečuje stroške in porabljen čas za vlagatelja. Toplotne črpalke voda-voda, ki koristijo podtalnico so izpostavljene riziku, nihanju nivoja podtalnice, saj mora bit izgotovljena dovolj velika količina vode za ustrezen COP. Obstaja rizik, da nivo podtalnice ne bo dolgoročno stabilen. Razen tega, pa je pri toplotni črpalki voda-voda prisotno tudi dodatno vzdrževanje in menjava filtrov, kot tudi določeno onesnaževanje podtalnice.

Toplotne črpalke so manj učinkovite v toplotnih pasovih, kjer je temperatura zunanjega zraka stalno blizu ali pod lediščem. Seveda si inovatorji prizadevajo za izboljšanje toplotnih izkoristkov tudi pri nizkih temperaturah.
Toplota, ki jo proizvede toplotna črpalke ni tako močna kot toplotna energija plina, olja gorenja peči na drva. Ljudje, ki uporabljajo tradicionalne peči jim je lahko neprijetno zaradi milejšega vira toplote, proizvedenega iz teh sistemov. Drugi ljudje imajo raje toploto proizvedeno s toplotnimi črpalkami, saj toplotne črpalke distribuirajo toploto enakomerno po vsej hiši. Toplotna črpalka ima tudi manj vklopov in izklopov kot npr. plinske peči.

Preden namestite toplotno črpalko, boste morali razmisliti, kakšne dodatne ali backup ogrevanje boste morda morali uporabiti, ko toplotna črpalka ne more delovati učinkovito. Mnogi toplotne črpalke uporabljajo dodatni električni grelec, vendar pa lahko uporabite tudi neke vrste gorilnik ali prilagojenim plinsko peč.