徐州市第二中学前身是明清时期徐州的最高学府——徐州府学宫（1369年），为徐州文脉传承的重要基地。作为一所具有革命传统的学校，1929年至1948年间，学校在中共党组织的领导下发起四次学潮斗争，向全市各学校散发《告全体师生书》和《反对宪兵污辱女学生抗议书》，培育了郭影秋、顾永田等大批革命人才。
学校原址办学六百余年历史，先后历经徐州书院、师范讲习所、师范学校等发展阶段，1948年更名为现名。1997年被评为江苏省重点中学，2004年转评为江苏省三星级高中，2015年晋升为省四星级高中，2024年入选“江苏省高品质示范（特色）高中”首批建设立项学校名单。2017年8月，学校整体搬迁至徐州市鼓楼区府学路1号。
学校师资力量雄厚，目前拥有江苏省特级教师、正高级教师、江苏省教学名师、市级骨干教师共186人。近5年，共有30余位教师在市级以上优质课比赛、基本功大赛中获奖，教师专业成长成效显著。2020年学校被授予“徐州市高中教学质量贡献奖”，2023年被评为江苏省教科研先进集体、江苏省教师发展示范基地校。
学校育人成果丰硕，特色鲜明，被誉为“世界冠军的摇篮”。作为全国围棋特色学校、国家重点高水平体育后备人才基地（游泳），先后走出了围棋世界冠军芈昱廷、柯洁、范廷钰、杨楷文，国际级运动健将、奥运会游泳冠军张雨霏等优秀学子。
学校在“扎文化之根，育栋梁之才”的愿景下，坚持“守正 出新”的办学理念，秉承“贵仁 励学”的校训，近年来先后被授予教育部教师教育协同创新中心项目示范学校、第三批全国中小学中华优秀传统文化传承学校、江苏省围棋文化课程基地、江苏省体育传统学校，江苏省体育特色学校、江苏省文明校园、江苏省智慧校园、江苏省和谐校园、江苏省健康促进金奖学校等多项荣誉称号。
