大雁塔始建于公元652年（唐高宗永徽三年），玄奘法师为供奉从印度带回的佛像、舍利和梵文经典，在慈恩寺的西塔院建起一座五层砖塔。在武则天长安年间重建。后来又经过多次修整。大雁塔在唐代就是著名的游览胜地，因而留有大量文人雅士的题记，仅明、清朝时期的题名碑就有二百余通。大雁塔所在的大慈恩寺是唐代高僧玄奘专门从事译经和藏经之处。玄奘法师从天竺取回佛经，曾在慈恩寺主持寺务，以“恐人代不常，经本散失，大雁塔兼防火难”并妥善安置经像舍利为由，拟于慈恩寺正门外造石塔一座，遂于唐永徽三年（公元652年）三月附图表上奏。唐高宗由于玄奘所规划浮图总高三十丈，以工程浩大难以成就，又不愿法师辛劳为由，恩准朝廷资助在寺西院建五层砖塔。此塔名雁塔，由于后来在长安荐福寺内修建了一座较小的雁塔，慈恩寺塔叫作大雁塔，荐福寺塔叫作小雁塔，一直流传至今。大雁塔仿西域窣堵坡形制，砖面土心，不可攀登，每层皆存舍利。玄奘法师亲自主持建塔，历时两年建成。因砖表土心，风雨剥蚀，五十余年后塔身逐渐塔损。

武则天长安年间（公元701年—704年），女皇武则天和王公贵族，施钱在原址上重新建造，新建为七层青砖塔（另一说，公元704年大雁塔改建成，塔增高至10层。公元931年，五代时后唐时期对大雁塔进行改建，降至七层）。唐末以后，慈恩寺寺院屡遭兵火，殿宇焚毁，只有大雁塔独存。

公元931年（五代后唐长兴二年）对大雁塔再次修葺。后来西安地区发生了几次大地震，大雁塔的塔顶震落，塔身震裂。（原先塔高11层) 人称“二圣三绝碑”。