任职京师

      永初五年(公元111年),汉安帝公车特征把张衡接到京城洛阳,拜为郎中。他在公事之余开始专心研究起玄妙的天体结构。汉安帝听说张衡在天文上有高深的造诣,就任命他为太史令。
      太史令：官名。管理天文、历法、祭祀等事。东汉时，专掌天时星历。太史令下辖管理灵台的灵台丞。

      张衡上任伊始,就来到坐落在洛阳平昌门南的灵台。灵台就是当时的天文台。是光武中元元年(公元56年)建造的,高九丈,周围二十丈,占地达四千四百平方米,有十二个门,上下两层平台,平台间有坡道相连,气势雄伟壮观。灵台有灵台丞管理,属太史令管辖,下有侯气的、侯风的、侯星的、侯日的等四十多人,机构庞大，分工细密。

       张衡看到灵台上天文仪器很陈旧,且不堪应用,他决心创制新的仪器。首先,开始研制“浑天仪”。用了一年时间,做了一个模型进行试验。他先把竹子劈开,刮削成薄薄的竹篾,在竹篾上刻上度数,然后圈成圆环,用细针穿连起来,这样一个简易的浑象模型就造成了。张衡把它叫做“小浑”。他利用这个模型对照着天象不断试验,仔细调整,直到完全满意,才叫人用精铜铸成正式仪器。这与建筑世家“样式雷”在正式建筑前要先设计制作“烫样”模型有点类似。
      《晋书·天文志》：张衡既作铜浑天仪于密室中以漏水转之,令伺之者闭户而唱之。其伺者以告灵台之观天者曰“璇玑所加,某星始见,某星已中,某星今没”皆如合符也。公元117年(安帝元初四年),一架用水力推动,可以自行运转的浑天仪终于诞生了。