1958年，淮北煤矿筹备处向宿县地委请示开办学校，地委同意其自办，编制计划费用自筹，地委给予学生学籍和老师备案。是年7月，淮北煤矿筹备处职工子弟学校（含中学、小学）正式创建，校址位于三堤口。中学部是淮北市第一中学的前身，也是全市第一所市立中学。

1959年9月1日，淮北煤矿筹备处职工子弟中学正式开学，只开办初一年级，且只招收一个班，学生40多人。1960年6月，淮北煤矿筹备处职工子弟中学与子弟小学一起迁至古城路178、180号，共用一栋2层小楼，并更名为濉溪矿务局职工子弟中学。

1961年9月，学校发展至5个班，其中初一2个班，初二2个班，初三1个班，共有学生210人。1962年3月，更名为安徽省濉溪市第一中学。7月，学校首届初中生毕业。8月，校址搬入濉溪煤炭工业学校（原濉溪煤炭专科学校）位于董庄的旧址，后者于当年停办并合并到淮南煤校。9月，学校开设高一年级，仅1个班，38名学生。

1963年，市政府拨款30万元，划地60余亩，在淮海路35号（即现址）建设新校区。1965年1月，新校区落成。2月1日，高中部及初中部的市区学生搬至新校区为一部，郊区的学生留在董庄校区为二部。7月，学校首届高中生毕业，23人参加高考，8人被录取。9月，又招收2个高一班。至此，学校作为全市第一所完全中学已初具规模，全校有教职工34人，设6个年级，11个教学班（初中7个，高中4个），近400名学生。

1966年2月，市教育局正式确定一部为一中，二部为二中（现淮北市第二中学前身）。1971年8月，濉溪市第一中学更名为安徽省淮北市第一中学。至此，淮北市第一中学的校址、校名固定下来。

1999年9月，学校停招初中一年级。2006年9月，分校天一中学开学。翌年4月，天一中学位于人民路上的校园落成。分校以淮北一中为办学主体，以国有合作制办学的形式与安徽天象集团联合办学，设有60个教学班，在校学生3000多人。

凭借优质的教学质量和骄人的教学成绩，淮北一中赢得了众多荣誉。1978年2月，被省教育厅命名为首批省属重点中学；2001年4月6日，被省教育厅授予“安徽省示范高中”称号；连续多年被评为“中国百强中学”；多次获得清华大学“新百年领军计划”和北京大学校长实名推荐资格。

淮北一中东校区建设项目于2012年立项，规划建筑面积12.7万平方米，设计办学规模约7000人，计划2020年8月交付使用。届时，淮北市的教育资源分布将得到显著优化，而伴随这座城市一同成长的淮北一中也将迎来一个崭新的发展阶段。