如前所述，铁塔的建造开始于北宋仁宗皇佑元年（1049年），但何时落成，至今尚未发现有确切记载。这是铁塔历史上的一大悬案。据河南大学教授魏千志考证，神宗熙宁四年（1071年）王惯撰写一部《北道刊误志》，此书对京师（开封）名胜，记载颇丰，而唯独缄口不言开宝寺塔。

　　北宋神宗熙宁五年（1072年）十月，日本国僧侣成寻曾在开宝寺福胜院等处参观礼拜，他记述当时的情景说，原藏在灵感木塔下的佛舍利，现“宿置”于“一间小殿”中。建塔的目的就是奉藏舍利，舍利置于“小殿”中。说明新塔尚未建成。又据魏千志教授躬身登临铁塔考查，塔身的第三层砖上出现治平四年（1067年，英宗在位的最后一年）的年号，塔顶发现“熙宁”（神宗第一个年号）字样的琉璃砖。再参照日僧成寻《参天台五台山记》的有关记载，这就说明，铁塔最后的落成时间，大概在神宗熙宁年间的后期，亦即1073年至1077年之间。

　　铁塔从建造到竣工，前后总共经过近30年的时间。但这仅是魏千志教授的一家之言，铁塔确切的落成时间，仍尚有待于硕学博闻之士释疑解难。