Pompy ciepła gruntowe, jak sama nazwa wskazuje, korzystają z energii cieplnej zgromadzonej w ziemi. W zależności od metody pozyskiwania tej energii, pompy ciepła gruntowe występują w dwóch głównych wariantach: z kolektorami (sondami) poziomymi oraz pionowymi. Sondy to rury wypełnione płynem o niskim punkcie zamarzania, które pobierają ciepło z wnętrza ziemi, przekazując je do urządzenia w postaci energii cieplnej. Kolektory poziome układa się stosunkowo płytko w gruncie, zazwyczaj jednakże poniżej strefy zamarzania. Warto zaznaczyć, że montaż tego rodzaju systemu wymaga znaczącej powierzchni. Z kolei sondy pionowe to pojedyncze pętle rur wprowadzone głęboko w ziemię, często na głębokość kilkudziesięciu metrów. Są szczególnie przydatne w przypadku niewielkich działek, gdzie dostępna przestrzeń jest ograniczona.

Charakterystyczną zaletą pomp ciepła gruntowych jest ich stabilność działania niezależnie od warunków zewnętrznych temperatury. Niemniej jednak, głównym wyzwaniem jest wysoki koszt początkowej inwestycji.

Pompy ciepła typu woda-woda czerpią ciepło z wód gruntowych poprzez wykonanie studni czerpnej i zrzutowej. W pewnych przypadkach może to jednak wymagać uzyskania odpowiednich pozwoleń związanych z prawami do korzystania ze źródeł wodnych.

Natomiast pompy ciepła typu powietrze-woda są najbardziej powszechnym rozwiązaniem, gdzie energia cieplna pozyskiwana jest z powietrza jako dolnego źródła. Pompy tego rodzaju charakteryzują się prostszym montażem w porównaniu z pompami gruntowymi, lecz ich wydajność spada wraz ze spadkiem temperatury na zewnątrz.