Berdasarkan pada hukum kedua termodinamika, panas tidak bisa secara spontan mengalir dari sumber bertemperatur rendah ke lokasi bertemperatur tinggi; suatu kerja dibutuhkan untuk melakukan ini. Pompa kalor berbeda dalam hal bagaimana mereka mengaplikasikan kerja tersebut untuk memindahkan panas, namun pada dasarnya pompa kalor adalah mesin kalor yang bekerja secara terbalik. Mesin kalor membuat energi mengalir dari lokasi yang lebih panas ke lokasi yang lebih dingin, menghasilkan fraksi dari proses tersebut sebagai kerja. Kebalikannya, pompa kalor membutuhkan kerja untuk memindahkan energi termal dari lokasi yang lebih dingin ke lokasi yang lebih panas.

Sejak pompa kalor menggunakan sejumlah kerja untuk memindahkan panas, sejumlah energi yang dibuang ke lokasi yang lebih panas mengandung kalor yang lebih tinggi dari pada sejumlah kalor yang diambil dari sumber dingin. Satu tipe pompa kalor bekerja dengan mengeksploitasi sifat fisik penguapan dan pengembunan fluida yang disebut refrigran. Fluida yang bekerja, pada keadaan gasnya, diberi tekanan dan disirkulasikan menuju sistem dengan kompresor. Pada satu sisi dari kompresor, di mana gas dalam keadaan panas dan bertekanan tinggi, didinginkan di penukar panas yang disebut kondenser, hingga fluida itu mengembun pada tekanan tinggi. Refrigeran yang telah mengembun melewati alat penurun tekanan yang dapat dilakukan dengan memperluas volume saluran (memperlebar saluran atau memperbanyak cabang), atau juga bisa dengan penghambat berupa turbin. Lalu, refrigeran yang berbentuk cair masuk ke sistem yang ingin didinginkan. Dalam proses pendinginan itu, refrigeran mengambil panas sehingga refrigeran kembali menguap dan sistem menjadi dingin.

Dalam sistem seperti ini, sangat penting bagi refrigeran untuk mencapai suhu tinggi ketika diberi tekanan, karena panas sulit bertukar dari fluida dingin ke lokasi yang lebih panas secara spontan. Dalam hal ini, refrigeran harus bersuhu lebih tinggi dari temperatur penukar panas. Dengan kata lain, fluida harus bertekanan rendah jika ingin mengambil kalor dari suatu sistem dan menguap, dan fluida harus bertekanan tinggi jika ingin membuang kalor dan mengembun. Hal ini sesuai dengan persamaan gas ideal yang menyatakan bahwa temperatur berbanding lurus dengan tekanan. Jika hal ini tercapai, efisiensi tertinggi akan tercapai.