Ως απαρχή των υπολογιστικών μηχανών μπορούμε να εκλάβουμε τον μηχανισμό των Αντικυθήρων, γνωστό και ως υπολογιστής των Αντικυθήρων ή αστρολάβο των Αντικυθήρων, ένα αρχαίο τέχνεργο, που λειτουργούσε ως αναλογικός υπολογιστής και όργανο αστρονομικών παρατηρήσεων και αποτελεί τον αρχαιότερο γνωστό πολύπλοκο, πλανητικής λειτουργίας μηχανισμό, με χαρακτηριστικά που υποδηλώνουν ότι είχε κατασκευαστεί κατά τη διάρκεια της Ελληνιστικής περιόδου.
Το 1645 ο Γάλλος μαθηματικός Μπλεζ Πασκάλ (Blaise Pascal) κατασκεύασε την πρώτη αληθινή αριθμομηχανή, η οποία επονομάστηκε Πασκαλίνα (Pascaline) και του επέτρεπε να εκτελέσει σχετικά εύκολους μαθηματικούς υπολογισμούς. O Leibniz, το 1674, τελειοποίησε τη μηχανή του Pascal ώστε να μπορεί να εκτελεί πολλαπλασιασμούς και διαιρέσεις, ενώ, στην αρχή της καριέρας του, επινόησε το δυαδικό αριθμητικό σύστημα, που αποτελεί μέχρι και σήμερα τη βάση για τον προγραμματισμό των υπολογιστών.
Τον 19ο αιώνα, παράλληλα με πολλές άλλες αυτόματες μηχανές, σχεδιάστηκε και μια ατμομηχανή για την εκτέλεση υπολογισμών από τον Βρετανό μαθηματικό Τσαρλς Μπάμπατζ (Charles Babbage), ωστόσο δεν κατέστη εφικτό να υλοποιηθεί με την υπάρχουσα τεχνολογία. Τα σχέδια του Μπάμπατζ,, όμως, δεν πήγαν χαμένα, καθώς η Άντα Λάβλεϊς (Ada Lovelace) τα κατέγραψε και τα επεξεργάστηκε, μένοντας στην ιστορία ως η πρώτη προγραμματίστρια / αναλύτρια υπολογιστών στην ιστορία (η γλώσσα προγραμματισμού Ada φέρει τιμής ένεκεν το όνομά της).
Περί τα τέλη του 19ου αιώνα (1890) ο Χέρμαν Χόλεριθ (Herman Hollerith) κατασκεύασε μια μηχανή για έναν διαγωνισμό- χάρη σε αυτήν η Κυβέρνηση των Η.Π.Α. κατάφερε να ολοκληρώσει την απογραφή μέσα σε δύο χρόνια, χρόνο ρεκόρ για τα δεδομένα της εποχής. Η μηχανή αυτή ονομάστηκε Census Tabulator (Ταξινομέας Απογραφής) και ήταν η απαρχή για τη δημιουργία της μεγαλύτερης (ως πριν λίγα χρόνια) εταιρείας υπολογιστών στον κόσμο, της ΙΒΜ (International Business Machines).
Ο πρώτος επαναπρογραμματιζόμενος ηλεκτρονικός υπολογιστής κατασκευάστηκε το 1943, λειτουργούσε με λυχνίες και ονομάστηκε ENIAC. Ήταν τεράστιος σε μέγεθος (καταλάμβανε έναν ολόκληρο όροφο), και έπρεπε να τον ελέγχουν συνεχώς ειδικοί επιστήμονες, δεδομένου ότι οι λυχνίες του καίγονταν συχνά και έπρεπε να αντικατασταθούν. Λίγο αργότερα (1949) κατασκευάζεται ο Manchester Mark-H από τους Τιούρινγκ και Champernowne.
Οι λυχνίες αντικαταστάθηκαν από τρανζίστορς κατά την περίοδο 1956-1963 (2η γενιά Η/Υ), που επέτρεψαν τη μείωση του μεγέθους των Η/Υ και την αύξηση της ταχύτητάς τους. Με το πρώτο ολοκληρωμένο κύκλωμα (Kilby, 1958) τέθηκαν οι βάσεις της μετάβασής μας στην ψηφιακή εποχή, με τις μικρότατες και πανίσχυρες, συχνά φορητές ηλεκτρονικές συσκευές.
