玄奘家在河南省洛州固始縣(今河南省偃師縣南)。家庭原本是儒家家庭。但他年輕的時候就立誌要和二哥出家。後來，隋朝時，他和他的二哥駐紮在洛陽的凈土寺，在那裏呆了五年。在此期間，他研究了小乘佛教和大乘佛教，他本人偏愛後者。
隋朝滅亡618年，玄奘和他的兄弟逃到長安(當時已經是唐朝的首都)，然後南下四川成都。在這裏，兩兄弟花了大約兩到三年的時間進壹步研讀佛經。
622年，玄奘20歲時，正式出家。然後他離開了哥哥，回到長安學習外語和佛學。