关于荐福寺的建置缘由和早期沿革，北宋宋敏求这样记载："寺院半以东，隋炀帝在藩旧宅，武德（618-626）中赐尚书左仆射萧瑀西为园。后瑀子锐尚襄城公主，诏别营主第。主辞以姑妇异居，有乖礼则，因固请，乃取园地充主第。又辞公主棨戟，不欲异门，乃并施瑀之院门。襄城薨后，官市为英王宅。文明元年（684），高宗崩后百日，立为大献福寺，度僧二百人以实之。天授元年（690），改为荐福寺。中宗即位，大加营饰。自神龙（705-707）以后，翻译佛经，并于此寺。"（[北宋]宋敏求《长安志》卷七《开化坊》，山川风情丛书（外七种），上海古籍出版社，1993年版，第122页。）参考相关文献，可知这段话包含几层意思。其一，荐福寺所在地开化坊，是隋炀帝当晋王时的住宅所在地，唐高祖建立唐朝后，将此地西半部赐给当时的雍州都督萧瑀为宅园，而萧瑀的姐姐就是隋炀帝的萧妃。萧瑀之子萧锐又娶了唐太宗的长女襄城公主。其二，襄城公主死后，此地由官府出钱购买，作为唐高宗和武则天的儿子英王李显的住宅。李显后来当了皇帝，即唐中宗，所以这里曾是两位皇帝的"潜龙旧宅"。其三，弘道元年（683）十二月丁巳（初四）夜，唐高宗在东都洛阳逝世，文明元年（684）三月十二日（据《唐会要》卷四十八"荐福寺"条），武则天为了给亡夫祈福，下敕将儿子李显的这所住宅献为寺院。其四，这所寺院起初命名为"献福寺"，七年后更名为"荐福寺"，由武则天以飞白体亲自题写匾额赐予荐福寺。因此可以说，荐福寺同武则天关系非同一般，属于皇家寺院，具有特殊地位。

　　武则天建置荐福寺，可谓一举三得。其一，以此举为亡夫祈福，向普天下昭示自己对先帝的一片尊崇之心和怀念之情。其二，李显在洛阳当了将近两个月的皇帝，被母后武则天找岔子废黜，软禁起来。下个月份，武则天即选择李显在长安的府邸建置荐福寺，一方面贵为天子的宅邸自然不允许其他人购买、居住，另一方面削弱了李唐宗室在长安的势力。其三，利用佛教势力，扩大影响，多了一个为自己执掌朝政、号令天下鼓吹呐喊的阵地，为通向国家权力巅峰制造舆论准备。

　　神龙元年（705）正月，李唐正统派官员张柬之等人在洛阳发动军事政变，拥护唐中宗复位，武则天被迫退位，当年十一月在洛阳逝世。第二年（706），唐中宗把恢复后的李唐朝廷搬回长安，他曾到荐福寺问道，对自己当年的潜龙旧居眷恋不已，继而对荐福寺大加营饰。工部奉敕修葺大荐福寺，工部尚书张锡亲自主持监修，唐中宗命名僧道岸亲自设计，另外还专门请了江南的律宗大师道岸通典斯任。景龙年间（707-709），后宫妃嫔出钱在荐福寺修造了一座15级的小雁塔，历经1300年，一直保存到现在，但塔顶已毁坏，仅剩下13级，高43米。登上这座处在城市中心的塔俯视四周，街衢坊市，尽收眼底。

　　大荐福寺重修以后，唐中宗多次前来巡幸，百僚奉和赋诗。李乂《奉和幸大荐福寺》诗说："象设隆新宇，龙潜想旧居。碧楼披玉额，丹仗导金舆。代日兴光近，周星掩曜初。空歌清沛筑，梵乐奏胡书。帝造环三界，天文贲六虚。康哉孝理日，崇德在真如。"（《全唐诗》卷九二。北京：中华书局，1999年版，第995页）李峤《奉和幸大荐福寺应制》诗说："桂舆朝群辟，兰宫列四禅。半空银阁断，分砌宝绳连。"（《全唐诗》卷六一，第722页）刘宪《奉和幸大荐福寺应制》诗说："香塔鱼山下，禅堂雁水滨。珠幡映白日，镜殿写青春。"（《全唐诗》卷七一，第781页）从这些唐诗中，我们可以窥见荐福寺经过重修，更加富丽堂皇，说明唐中宗时期把荐福寺的规模和繁荣推向了它的历史巅峰。

　　武则天、唐中宗时期，一些高僧大德活跃于荐福寺中，著名的有义净、法藏、实叉难陀等。

　　义净于唐高宗咸亨二年（671）泛海西行，去印度学习佛法，前后历时25年，途经30多个国家。证圣元年（695），义净从室利佛逝（今印度尼西亚苏门答腊）回国，带回"梵本经律论近四百部，合五十万颂，金刚座金容一铺，舍利三百粒"。武则天亲自到洛阳城上东门外迎接他，"诸寺缁伍（僧众）具幡盖歌乐前导"。（[北宋]《宋高僧传》卷一《唐京兆大荐福寺义净传》。中华书局，1997年版，第1页）义净追随武则天，在洛阳佛授记寺和长安荐福寺两地翻译佛经，同时，积极配合武则天的一些政治活动。如武则天声称得到民间贡献的"天赐石函"，其中有12个神奇文字，众不能识，就命令义净辨认，义净居然译写出来，说是"天册神皇万岁忠辅圣母长安"，武则天大喜，于当年九月为自己加上"天册金轮大圣皇帝"的称号，大赦天下，改年号为"天册万岁"。（[北宋]赵明诚《金石录》卷二五）皇室后来还在荐福寺专门为义净修建了译经院，义净的晚年就在荐福寺度过，直至圆寂。荐福寺译经院共翻译经书31部106卷。（王亚荣《大荐福寺》。西安：三秦出版社，1994年版，第114页）唐中宗称赞义净是"法门之龙象，凡宇之栋梁"。（《全唐文》卷十七《三藏圣教序》。中华书局1983年版，第210页）唐睿宗追赠他为"鸿胪寺卿"的官衔，安葬于长安延兴门外，享年79岁。义净一生共译经56部计230卷，荐福寺也因义净而成为中国佛经翻译史上著名的"长安三大译场"之一。

　　法藏，又称康藏、贤首国师，是旅华中亚康国人的后裔，出生于中国。唐高宗咸亨元年（670），武则天的母亲荣国夫人去世，为给母亲树福田、追冥福，武则天将母亲在长安的住宅施舍给佛教，建成西太原寺，28岁的法藏被人连状推荐，成为太原寺的僧人。法藏后来在洛阳，奉武则天之命，参与实叉难陀主持的重新翻译《华严经》的活动，还为武则天讲解《华严经》的大意。后来法藏被武则天迁至长安大崇福寺担任寺主，这所崇福寺即当年的西太原寺，载初元年（689）改称为崇福寺，由武则天亲笔题写飞白体寺额。法藏参与了神龙元年洛阳的军事政变，此后便永远地离开了洛阳，来到大荐福寺，直到唐睿宗先天元年（712）在这里圆寂。

　　实叉难陀是于阗国（今新疆和田地区的民族政权）人，以通大小乘学和外论著名。武则天听说于阗有完备的梵本《华严经》，即遣使访求并骋请译人，实叉难陀便带着梵本《华严经》来华，于证圣元年（695）到达洛阳，住在内廷大遍空寺，重译《华严经》。武则天很重视，多次到译场视察。实叉难陀后来又在洛阳三阳宫、佛授记寺、长安清禅寺等处续译诸经。长安四年（704），他以母亲年老，请求归省，武则天特派御史霍嗣光送他回归于阗。唐中宗即位后，再度邀请他到长安，唐中宗与百官亲迎于长安城开远门外，把实叉难陀安置在大荐福寺中。但实叉难陀住进荐福寺不久，未遑翻译，即患上疾病，于唐睿宗景云元年（710）十月遽然离世。他的遗体在开远门外的古燃灯台焚化，骨灰由他的门人悲智和唐使哥舒道元奉送护归原籍。后人在长安焚化难陀的遗体处建起七层浮图以为纪念，号称"华严三藏塔"。