Het dorp Heemskerk is ontstaan op een van de strandwallen die werden gevormd door opstuivend zand bij een terugtrekkende Noordzee ca. 5.000 jaar geleden. De vorm van de strandwal is nog herkenbaar door de twee straten die er nog steeds lopen: de Kerkweg aan de westzijde en de Oosterweg aan de oostkant. De twee wegen komen aan de noordkant samen aan de Rijksstraatweg terwijl de zuidelijke punt van de strandwal ligt op de plaats waar de Dorpskerk is gebouwd.
De eerste sporen van bewoners op de strandwallen zijn van enkele eeuwen voor het begin van onze jaartelling. Bij opgravingen aan de Jan Ligthartstraat werden in 2003 sporen van mensen en dieren en waterputten gevonden die stammen uit 600 tot 300 jaar voor onze jaartelling. Verder zijn sporen en aardewerk aangetroffen uit zowel de Merovingische als de Karolingische periode (vroege Middeleeuwen rond 800 na Christus).
De naam Heemskerk komt in de verbasterde vorm Hemezenkiryca voor de eerste keer voor in een oorkonde uit 1063, de zogenaamde akte van Echternach. In de loop van de eeuwen is daar de naam Heemskerk uit ontstaan. Het jaartal van die akte was het uitgangspunt om in 2013 het 950-jarig bestaan te vieren hoewel het er inmiddels naar uitziet dat van een nog iets ouder jaartal zou moeten worden uitgegaan.
De ligging op de grens tussen (West-)Friesland en Holland maakte de omgeving strategisch belangrijk. Diverse oorlogen en opstanden drukten hun stempel op de ontwikkeling en het ontstaan van kastelen en andere monumenten.
Van de ooit bestaande 10 of 11 kastelen zijn er twee goed bewaard gebleven, Slot Assumburg en Chateau Marquette. Ook is de grond waarop een derde kasteel heeft gestaan, Oud Haerlem, uitgeroepen tot archeologisch monument.
De huidige Rijksstraatweg is onderdeel van de voormalige Heerenweg of s-Gravenweg, een middeleeuwse route die de graven van Holland gebruikten om hun bezittingen in Noord-Holland te bezoeken. Deze route liep oorspronkelijk van Dordrecht (de hoofdresidentie van de graaf van Holland) tot aan Camperduin, de noordelijke grens van zijn gebied.
Na de tijd van ridders en edelen is Heemskerk als een klein rustig dorp aan de voet van de duinen achtergebleven. De bewoners, die hoofdzakelijk leefden van de land- en tuinbouw en de veehouderij, maakten goede maar ook slechte tijden door. In de jaren dertig van de vorige eeuw waren de bronnen van inkomsten van verarmde tuinders en winkeliers door de crisis zo teruggelopen dat toen al werd geprobeerd toeristen te trekken. De Heemskerkse VVV die daarvoor in 1933 werd opgericht, heeft echter maar kort bestaan. Gelukkig oefenen de hierboven genoemde monumenten, maar ook het uitgestrekte duingebied en het Noordzeestrand grote aantrekkingskracht uit op toeristen.
Door de industriële ontwikkeling van de IJmond vanaf de jaren 50 is Heemskerk explosief gegroeid. Voor nieuwe werknemers van de toenmalige Hoogovens (nu TATA Steel) waren veel woningen nodig. Nieuwbouwwijken schoten uit de grond. De westkant van de Rijksstraatweg is voor een belangrijk deel agrarisch gebied gebleven. In de weidegebieden richting Uitgeest en Zaanstad zijn na 1965 nieuwe woonwijken gerealiseerd waardoor het aantal inwoners is opgelopen van 6.000 in 1950 tot bijna 39.500 in 2024.
