Στα Γεωγραφικά του ο Στράβων μας δίνει πολλές λεπτομέρειες για την αρχαία Καππαδοκία. Δυστυχώς, για τη Βυζαντινή Καππαδοκία δεν υπάρχει αντίστοιχη περιγραφή από τους σύγχρονους συγγραφείς. Παρά την ασάφεια που διακρίνει τις αναφορές των βυζαντινών συγγραφέων στην περιοχή, γενικά ισχύει αυτό που ο Στράβων είχε τονίσει κατά την αρχαιότητα, ότι, δηλαδή τα όρια της δεν ήταν σαφώς καθορισμένα.
Σύμφωνα, λοιπόν, με τον Στράβωνα η Καππαδοκία εκτείνεται βόρεια από τα παράλια του Εύξεινο Πόντου ως της εκβολές του Άλυος και στα νότια όριο της είναι το όρος Ταύρος, ανατολικά φτάνει στην Αρμενία και την Κολχίδα και δυτικά στην Παφλαγονία, την Φρυγία και τη Λυκαονία. Οι ειδήσεις της εποχής που αφορούν την Καππαδοκία αναφέρονται σε εχθρικές επιδρομές και στις συνακόλουθες αλώσεις και καταστροφές πόλεων.
Τα γραπτά του Μεγάλου Βασιλείου και άλλων Καππαδόκων πατέρων της Εκκλησίας είναι σημαντικές πηγές όσον αφορά στη διοίκηση και στην καθημερινή ζωή των κατοίκων της Καππαδοκίας τον 4ο αιώνα. Η μορφή του Αγίου Βασιλείου κυριαρχεί εκείνη την εποχή για τη διδασκαλία του και το φιλανθρωπικό του έργο. Στον περιορισμό, όμως, της επιρροής του Βασιλείου φαίνεται ότι στόχευε ο αιρετικός αυτοκράτορας Ουάλης, ο οποίος το 372 εισήγαγε νέα διοικητική διαίρεση την πρώτη Καππαδοκία με πρωτεύουσα την Καισάρεια και τη δεύτερη Καππαδοκία με πρωτεύουσα τα Τύανα.
Για τον 5ο αιώνα υπάρχουν μνείες της Καππαδοκίας ως τόπου εξορίας με χαρακτηριστικότερο παράδειγμα τον περιορισμό του Ιωάννη του Χρυσοστόμου σε μια μικρή κώμη, την Κουκουσό. Στις αρχές του 6ου αιώνα, εξ αιτίας των επιδρομών των Σαβείρων Ούννων, ο αυτοκράτορας Αναστάσιος φρόντισε για την αποκατάσταση της οχύρωσης της περιοχής. Ο Ιουστινιανός, έχοντας εμπλακεί σε πόλεμο με τους Πέρσες έλαβε μέτρα προς την ίδια κατεύθυνση. Ακόμη ο Ιουστινιανός, στο πλαίσιο του νομοθετικού του έργου, έλαβε μέτρα περιορισμού της αριστοκρατίας της Καππαδοκίας. Στα τέλη του 7ου αιώνα φάνηκαν στο προσκήνιο οι Άραβες και για τρεις και πλέον αιώνες η Καππαδοκία έγινε το επίκεντρο σφοδρών βυζαντινοαραβικών συγκρούσεων, οι οποίες βρήκαν τη λογοτεχνική τους αποτύπωση στον κύκλο των ακριτικών τραγουδιών και στο έπος του Διγενή Ακρίτα.
Ως τις αρχές του 9ου αιώνα η Καππαδοκία φαίνεται πως ήταν μοιρασμένη διοικητικά μεταξύ των Ανατολικών και των Αρμενιακών, όπως μπορούμε να συμπεράνουμε από το Περί θεμάτων του Κωνσταντίνου Ζ’ Πορφυρογέννητου. Αλλά μέσα στην πρώτη τριακονταετία του 9ου αιώνα μετασχηματίζεται σε θέμα. Η νέα διοικητική αυτή ενότητα δημιουργήθηκε για να αντιμετωπιστούν καλύτερα τα προβλήματα που είχαν προκύψει από την εξέγερση του Θωμά του Σλάβου (η οποία κατεστάλη το 823) όσο και από τις συνεχιζόμενες αραβικές επιδρομές.
Λίγες δεκαετίες αργότερα ακολούθησε και νέα διοικητική μεταρρύθμιση η δημιουργία του θέματος του Χαρσιανού, του οποίου η ίδρυση τοποθετείται μεταξύ 863 και 872. Η αρχική του έκταση περιελάμβανε μια μικρή περιοχή γύρω από το ομώνυμο κάστρο, «θέση οχυρωμένη και δυσπρόσιτη στις βαρβαρικές επιδρομές». Οι αναφορές στο Χσριακόν είναι περιορισμένες μάλλον γιατί οι Βυζαντινοί προτιμούσαν να το αποκαλούν Καππαδοκία ακόμη και μετά την αναγωγή του σε θέμα.
Οι Βυζαντινοί κατόρθωσαν να ανακτήσπυν την ευρύτερη περιοχή της Καππαδοκίας μόλις το 934, μρετά την άλωση της Μελιτηνής από τον Ιωάννη Κουρκούα, στρατηγό του Ρωμανού Λακαπηνού και επεκτάθηκαν ακόμη περισσότερο με τις εκστρατείες του Νικηφόρου Φωκά και του Ιωάννη Τσιμισκή.
Όσον αφορά τον αγροτικό πληθυσμό δεν έχουμε πολλές ειδήσεις. όσοι έμεναν εκεί και δεν κατέφυγαν σε τόπους περισσότερο ασφαλείς από εχθρικές επιδρομές προσπάθησαν να επιβιώσουν από τις μικροϊδιοκτησίες τους και στις κρίσιμες στιγμές κατέφευγαν στις αναρίθμητες σπηλιές της περιοχής.
Τον 11ο αιώνα μετά τις επιχειρήσεις του Βασιλείου Β’ στην Αρμενία, το δυναμικό της Καππαδοκίας ενισχύθηκε με τη μεταφορά Αρμενίων αποίκων. Αλλά περί τα μέσα του αιώνα άρχισαν οι επιδρομές των Σελτζούκων Τούρκων. Ο αυτοκράτορας Ρωμανός Δ’ Διογένης, καππαδοκικής καταγωγής, είχε αρχικά μερικές σποραδικές επιτυχίες εναντίον τους, αλλά η ήττα στη μάχη του Μαντζικέρτ το 1071 είχε συνέπεια μεταξύ άλλων και την οριστική απώλεια της Καππαδοκίας για τους Βυζαντινούς.