Yerleşmenin Antik Çağ’daki adı tam olarak bilinmemekle birlikte Pylai (Bugünkü Hersek Köyü ) ve Termal kaplıcalarının o zamanki adı olan Pythia adları birleştirilerek havalinin ortak adı PYLOPYTHİA adını kullandığı sanılmaktadır. Daha sonraki kaynaklarda XENODOCHION adına rastlanmaktadır.
15. ve 16.yy. tarihçileri ise bu yöre için Yalakova adını kullanmışlardır. Osmanlı döneminde Çiftlikköy ilçesinden başlayıp, Termal ve Çınarcık ilini içine alan bölgeye Yalakabad da denmiştir. 16.yy. tarihçilerinden bazıları, Yalakova adının İzmit ve Yalova’ya egemen olan ve İstanbul tekfuru ile ilişkisi bulunan Yalakonya adında bir kadının adıyla bağlantılı olduğu görüşündedirler. Evliya Çelebi Kara Yalvaçoğlu tarafından fethedilen havalinin Kara Yalovaç olarak adlandırıldığını yazmıştır.
Cumhuriyetin ilanından itibaren burayı sık sık ziyaret eden Mustafa Kemal Atatürk'ün burada yazmış olduğu mektupları Yalı Ovası yazarak imzaladığı belgelenmiştir. Atatürk, Türk Tarihi ile ilgili olarak yaptığı bir çalışmanın altını imzalarken, 16/17.8.1931 tarihini yazmış ve altına: (YALİ OVA/YALOVA) diye not düşmüştür. Yalı ve ova kelimesinin birleşmesinden de adı bugünkü halini almıştır. Yalıova olan bu adın zamanla (-ı) harfinin düştüğü ve Yalova olarak söylendiği bilinmektedir.