掛甲寺原名“慶國寺”，傳說公元648年，唐太宗御駕征遼奏捷，大將軍尉遲恭率軍在此地修整。

尉遲恭與許多官 兵將身上的甲胄脫下來放在寺院周圍晾曬，一連數日。在此之后，周圍的住戶便將寺名改叫掛甲寺，而寺院的和尚也只好按照鄉鄰的意思更名成了掛甲寺。由于寺院歷史悠久，素負盛名。歷代文人墨客，文官武將，不辭艱辛，來寺朝拜。掛甲寺初期僅僅占地兩畝半，由山門、觀音殿、大雄寶殿組成。古往今來，歲月流逝，古寺亦歷盡滄桑，屢經變遷，幾度盛衰。加之歷史原因，寺院部分被毀，佛事一度消沉。

在張良相開始集資重修之后，用了不到兩個月的時間，一座新的寺院便建成了。隨著萬世德抗倭援朝的勝利，張良相與部下們回到了天津，按照當初許下的誓言，張良相與手下將官將盔甲掛在掛甲寺以示還愿。

一時間，武將們在出征討伐之前要到掛甲寺拜祭成為當時的一種流行時尚，而掛甲寺的靈氣也愈發得到傳揚。從此以后，寺院香火旺盛，每逢陰歷二月十九，觀音誕辰之日，開寺朝佛，善男信女，香客游人，聚集寺廟，進香膜拜。萬歷二十八年，當地一位姓劉的文人為此特意撰寫了《重建掛甲寺碑記》，記載當時掛甲寺的繁榮景象，可惜的是這塊碑不知流落到什么地方，但碑文還可以從現存的天津志書查找到。