Die derzeit am meisten verbreitete Wärmepumpenart ist die Sole/Wasser-Wärmepumpe. Sie nutzt Erdwärme, die durch die Sonneneinstrahlung und Sickerwasser entsteht. Die dem Erdreich entzogene Wärmeenergie hebt ("pumpt") die Wärmepumpe auf ein höheres Temperaturniveau an. Das Erdreich besitzt ganzjährig annähernd konstante Temperaturen unabhängig von Jahreszeit und Wetter. Dadurch ist ein monovalenter Betrieb der Sole/Wasser-Wärmepumpe ohne weiteren Wärmeerzeuger möglich. Für das Erschließen der Wärmequelle Erdreich gibt es folgende Möglichkeiten.
Flächen-Erdkollektoren sind für Neubauten mit großer Gartenfläche geeignet. Sie werden waagerecht in Schleifen in etwa 1,20 bis 1,50 m Tiefe verlegt. Hier betragen die Temperaturen zwischen –5 bis +17 Grad Celsius. Der Abstand zwischen den Leitungen aus PE-Rohr beträgt etwa 0,5 bis 1,0 m. Die Entzugsleistung des Kollektors ist abhängig von der Bodenbeschaffenheit. Sie liegt zwischen 10 bis 15 W/m² bei trockenem, sandigem Boden und bei bis zu 40 W/m² bei Grundwasser führendem Boden. Als Faustregel gilt, dass für die zu beheizende Fläche im Gebäude ungefähr die zwei- bis dreifache Erdreichfläche für die Kollektorverlegung beansprucht wird. Zwischen Flächenkollektor und Wärmepumpe zirkuliert, größtenteils unterirdisch, die sogenannte Sole in einem geschlossenen Kreislauf. Die Sole ist ein Gemisch aus Wasser und Frostschutzmittel. Das Fluid nimmt die über das Jahr annähernd konstante Erdwärme auf und gibt sie über einen Wärmetauscher an die Wärmepumpe ab. Nach dem Temperaturhub in der Pumpe wird die Wärme an die Hydraulik der Heizung übertragen.
Im Vergleich zu Flächenkollektoren brauchen Erdsonden nur wenig Platz. Sie entziehen dem Erdreich in bis zu 100 m Tiefe die Wärme. Der Temperaturbereich liegt in tieferen Schichten bei ca. bei +8 bis +12 Grad Celsius. Für das Verlegen sind mit speziellen Bohrgeräten ein oder mehrere genehmigungspflichtige Bohrungen notwendig. Die meisten Bohrungen werden bis 50 m tief ausgeführt. Die Entzugsleistung liegt zwischen 30 und 100 W pro Meter Erdwärmesonde. Mehrere Erdwärmesonden lassen sich zu einer Anlage zusammenschalten. In die Bohrungen werden Schleifen aus Kunststoffrohr eingelassen – pro Bohrung zwei Schleifen. Die Tiefe und Anzahl der Bohrungen hängt von den Bodenverhältnissen und von der benötigten Heizleistung für das zu beheizende Gebäudes ab. In Verbindung mit einer Erdwärmesonde kann die Wärmepumpe je nach Variante im Sommer auch zum Kühlen genutzt werden.
Neben den Sole durchflossenen Kollektoren gibt es auch Erdwärmepumpensysteme mit Direktverdampfung. Hier fließt im horizontalen Kollektorsystem aus Kupferrohren ein Kältemittel. Die Kupferrohre besitzen eine PE-Ummantelung. Ein Wärmetauscher wie beim Sole-Wasser-System entfällt. Dadurch treten weniger Energieverluste auf und die Arbeitszahl (ca. 5) ist höher als bei herkömmlichen Sole-Wasser-Wärmepumpen (ca. 4). Der Nachteil ist, dass das Direkt-Verdampfersysteme im Sommer nicht zum Kühlen genutzt werden können.