新中国成立初期义马市隶属于渑池县。

1956年义马成为渑池县千秋镇的一部分。

1963年马仔宏、常村、三十里铺三个大队，成立独立的义马镇。

1968年千秋公社与义马镇合并，组建为义马人民公社。

1970年设立义马矿区，管理原义马公社的20个大队，分设千秋公社、常村公社和义马镇。

1981年在义马矿区设立县级义马市，由洛阳行署代管。

1986年洛阳行署撤销，义马市划归三门峡市管辖。