上海市第二中学创办于1902年，原名务本女中，1959年确立为上海市重点中学，2005年确立为上海市实验性示范性高中。
学校地处衡山路-复兴中路历史建筑保护区 域内，环境雅致，设施优良， 是上海市一期、二期课程改革实验基地。1987年以来，学校已连续十次荣获上海市文明单位称号，是上海市中学生行为规范示范校、上海市普教系统德育工作先进集体、上海市科教所教科研实验基地、上海市艺术教育特色学校。学校与美国、德国的中学结成姊妹学校，师生交流频繁。
作为一所百年名校，一个世纪来，学校为国家培养了大批优秀人才，如吴若安（教育家）、严隽琪 （全国人大常委会副委员长、民进中央主席）、左焕琛（原上海市副市长）、郑令德（原上海市教委主任）、孙兰（原上海市教育局局长）等是其中的部分杰出代表。