Η ευρύτερη περιοχή της Πράγας κατοικείται από την Παλαιολιθική Εποχή. Γύρω στο 200 π.Χ., Κέλτες εγκαταστάθηκαν σε μια περιοχή προς τα νότια ονόματι Ζάβιστ, αλλά αργότερα εκδιώχθηκαν ή αφομοιώθηκαν από γερμανικά φύλα. Από τον 4ο αιώνα κι έπειτα, η περιοχή βρισκόταν υπό την εξουσία των Σλάβων, αν και για μια περίοδο υποτάχτηκαν στους Αβάρους.
Σύμφωνα με το θρύλο, η Πράγα ιδρύθηκε από την Πριγκίπισσα Λιμπούσε και το σύζυγό της, Πρέμυσλ, ιδρυτή της ομώνυμης δυναστείας. Τον αρχικό πυρήνα της πόλης αποτελούσε ένα κάστρο σε ένα λόφο στη δεξιά όχθη του Μολδάβα, γνωστό ως Βίσεχραντ, που σημαίνει «υψηλό, ανώτερο κάστρο». Σύντομα, η πόλη έγινε η έδρα των Βασιλέων της Βοημίας, κάποιοι εκ των οποίων κυβέρνησαν αργότερα ως αυτοκράτορες της Αγίας Ρωμαϊκής Αυτοκρατορίας, καθώς και σημαντικότατο εμπορικό κέντρο, το οποίο προσέλκυε εμπόρους από όλη την Ευρώπη. Η πόλη έγινε επισκοπάτο το 973.
