十九世纪七八十年代美国欧柏林大学一些毕业生以传教士身份来到山西太谷等地进行传教活动，在一九零零年的义和团运动中有六名被杀，而孔祥熙因襄办这起太谷教案有功，被太谷基督教公理会资助到美国深造，先后完成欧柏林大学和耶鲁大学的学业，获学士和硕士学位。学成回国前孔祥熙向欧柏林大学建议在山西设一纪念学府以“传播欧柏林精神”，欧柏林大学随即成立欧柏林山西纪念协会负责筹资建校。一九零七年秋孔祥熙携带款项回到故乡办学，他与公理会商妥占用该会所办的明道学堂校址创办了这所铭贤学堂。“铭贤”二字系孔祥熙所命名，意为“盖取纪念庚子为道殉难中西先烈之意”，以继承他们“杀身成仁舍生取义”的精神”、继续“他们的伟大事业”而设立的学校。铭贤学校建立后，孔祥熙任校长兼董事长，亲自题写了“学以事人”的校训，还规定校歌制定校旗并亲自任教授课。学校创立伊始仅设小学，以后逐渐扩充增设了中学，后因地方狭窄，于一九零九年迁到城东孟家花园即现在的校址。