Η περιοχή του Ηρακλείου είναι πολύ σημαντική από την αρχαιότητα καθώς αποτέλεσε το κέντρο του Μινωικού πολιτισμού με την Κνωσό αλλά και τη Φαιστό. Συνδέθηκε με πολλούς και σημαντικούς μύθους όπως η Γέννηση του Δία στο Ιδαίο Άντρο αλλά και ο Λαβύρινθος με τον θρυλικό Μινώταυρο τον οποίο σκότωσε ο Θησέας.
Στη θέση που βρίσκεται το σημερινό Ηράκλειο κατά την πρώτη Βυζαντινή περίοδο (4ος – 9ος αιώνας) υπήρχε μικρή πόλη. Όταν οι Άραβες αποβιβάζονται στην Κρήτη και καταλαμβάνουν το νησί θα χτίσουν πόλη οχυρωμένη με τάφρο, από όπου θα προκύψει και το όνομα Χάνδακας με το οποίο θα μείνει γνωστή.
Το 961 ο Νικηφόρος Φωκάς καταφέρνει να εκδιώξει τους Άραβες από τον Χάνδακα και η περιοχή περνάει ξανά σε Βυζαντινά χέρια έως το 1204 όταν και θα περάσει (με μια μικρή Γενοβέζικη παρένθεση) στα χέρια των Ενετών.
Οι Ενετοί θα ιδρύσουν το Βασίλειο της Κρήτης με πρωτεύουσα τον Χάνδακα ή Κάντια ή Ηράκλειο (πάντα μιλάμε για την ίδια πόλη). Υπό την κυριαρχία τους το Ηράκλειο θα τριπλασιάσει τον πληθυσμό του και θα αναδειχθεί σε διοικητικό στρατιωτικό και οικονομικό κέντρο της Κρήτης. Οι Ενετοί θα φροντίσουν να το οχυρώσουν με το Φρούριο Κούλες και τα Ενετικά Τείχη όμως το 1669 μετά από μακρόχρονη και σκληρή πολιορκία το Ηράκλειο καθώς και ολόκληρη η Κρήτη θα πέσει στα χέρια των Τούρκων. Από τότε οι Κρητικοί ξεκινούν τον αγώνα για την απελευθέρωσή τους με αρκετές ανεπιτυχείς εξεγέρσεις αλλά και συμμετοχή στην Ελληνική Επανάσταση του 1821 που θα οδηγήσει σε μεγάλες σφαγές με χαρακτηριστικότερη τη μαζική εκτέλεση του Μητροπολίτη Κρήτης και 5 επισκόπων στο Ηράκλειο.
Τελικά το 1913 ολόκληρη η Κρήτη ενώνεται με την Ελλάδα. Κατά τον Β’ Παγκόσμιο Πόλεμο, στην περίφημη Μάχη της Κρήτης, ο νομός Ηρακλείου θα αντισταθεί σθεναρά στους Γερμανούς αλεξιπτωτιστές και θα πληρώσει άλλον ένα μεγάλο φόρο αίματος (τον τελευταίο) ως ύστατη απόδειξη της θρυλικής Κρητικής λεβεντιάς.