Μετά τη σφαγή του πατέρα τους, ο Κωνστάντιος παρέδωσε τα αδέλφια Ιουλιανό και Γάλλο στον επίσκοπο Ευσέβιο Νικομηδείας ο οποίος εμπιστεύτηκε τη μόρφωση του Ιουλιανού στον Μαρδόνιο, έναν μορφωμένο Γότθο ευνούχο, για 4 χρόνια. Η ανάγνωση του Ομήρου υπό τη διδαχή του Μαρδονίου ήταν, σύμφωνα με τα ίδια τα γραπτά του Ιουλιανού, η χρυσή εποχή της παιδικής του ηλικίας.
Σε ηλικία 11 ετών, ανέθεσαν τη μόρφωση του Ιουλιανού και του Γάλλου στον επίσκοπο Γεώργιο Καππαδοκίας, στο υποστατικό του τελευταίου στην Καισάρεια. Αργότερα ο Ιουλιανός θυμόταν με φρίκη τα χρόνια αυτά κοντά στον ραδιούργο επίσκοπο. Ωστόσο είναι βέβαιο ότι υπερέβαλλε κάπως στην κρίση του αυτή καθώς, μαζί με τις δυσάρεστες χριστιανικές σπουδές, μπορούσε να διαβάσει ποικιλία μη χριστιανικών κειμένων από την πλούσια βιβλιοθήκη του Γεωργίου, τα οποία και θυμόταν αργότερα.
Ο Ιουλιανός είχε κλίση προς τη μόρφωση και έλαβε ευρύτατη κλασσική παιδεία. Έτσι, το 348 που του επιτράπηκε να επιστρέψει στην Κωνσταντινούπολη, μαθήτευσε στον εθνικό δάσκαλο Νικοκλή και τον χριστιανό Εκηβόλιο με τους οποίους διατήρησε επαφή και στη συνέχεια. Επίσης παρακολούθησε μαθήματα του παγανιστή Θεμιστίου. Το 350-51 πήγε στην Πέργαμο όπου μαθήτευσε κοντά στον φιλόσοφο Αιδέσιο, ο οποίος ήταν κάποτε μαθητής του νεοπλατωνικού φιλοσόφου Ιάμβλιχου και ανήκε στον κύκλο των νεοπλατωνικών που πίστευαν στην άμεση επαφή με το θείο (θεουργία).Εκεί γνωρίστηκε με τον επίσης νεοπλατωνικό φιλόσοφο Μάξιμο με τον οποίο θα διατηρήσει στενή φιλία στην υπόλοιπη ζωή του. Μέσω του Μάξιμου, ο Ιουλιανός μεταστράφηκε οριστικά από τον Χριστιανισμό στις νεοπλατωνικές παγανιστικές αντιλήψεις, αν και κράτησε για καιρό κρυφή αυτή τη μεταστροφή.
Εν τω μεταξύ, ο αδελφός του Γάλλος, ο οποίος δεν του έμοιαζε καθόλου στο χαρακτήρα γιατί ήταν βάναυσος και στενών αντιλήψεων,είχε αναγορευτεί, από τον Κωνστάντιο, Καίσαρας και είχε σταλεί στην Αντιόχεια, ως επικεφαλής των ανατολικών επαρχιών. Η κακοδιοίκησή του όμως ανάγκασε τον Κωνστάντιο να τον καθαιρέσει και να τον εκτελέσει το 354. Ο ίδιος ο Ιουλιανός τέθηκε σε απομόνωση στα Μεδιόλανα (Μιλάνο) για έξη μήνες, καθώς φοβόταν συνεχώς ότι θα τον εκτελέσουν. Τελικά, χάρη στην γυναίκα του Κωνστάντιου, αυτοκράτειρα Ευσεβία, σώθηκε από τα χειρότερα και στάλθηκε στην Αθήνα όπου παρακολούθησε τις διαλέξεις του χριστιανού ρήτορα Προαιρεσίου και του νεοπλατωνικού Πρίσκου. Επίσης μυήθηκε στα Ελευσίνια Μυστήρια. Στη συνέχεια ξαναέπεσε σε δυσμένεια αλλά, και πάλι χάρη στην Ευσεβία, απελευθερώθηκε και αναγορεύτηκε Καίσαρας από τον Κωνστάντιο σε ηλικία 24 ετών (6 Νοεμβρίου 355).