在“中西医结合”一词出现之前，体现中、西医之间“结合”的用词主要有“中西医汇通”、“中西两法治疗”、“中西医合作”等。

自十九世纪中叶开始，在西学东渐的背景下，西方学术思想和科学技术不断传入中国，西医也开始整体传入并逐渐成为主体医学。随着西医的影响不断增加，中医界在“中学为体，西学为用”的思想指导下逐渐开始研究西医，产生了以唐容川、恽铁樵、张锡纯等为代表的中西医汇通学派，开始了早期的中西医结合探索。后期由于时代和个人认识的局限等方面原因，中西医汇通学派的方向虽然正确，但成就比较有限。

在大革命时期，由于敌人的严密封锁，革命根据地的医疗条件极差，“建设较好的红军医院”成为巩固根据地的重要策略。在1928年在给党中央的报告中，毛泽东提到“医院设在山上，用中西两法治疗”的现状，首次提出“中西两法治疗”的思想。在延安时期，针对根据地中西两种医学体系客观并存并时常发生争鸣、碰撞甚至互相轻视的实际情况，毛泽东在1944延安大学开学典礼上的讲话中又正式提出了“中西医合作”的思想。

新中国成立后，“团结中西医”成为新中国卫生工作的一项重要方针政策。但在“中医科学化”的影响下，卫生系统推出了一系列实为歧视中医的错误做法，1954年7月毛泽东对此进行了尖锐批评，指出了中西医团结的关键是“西医学习中医，而不是中医学西医”。1956年，毛泽东同志在有关讲话中明确提出“把中医中药与西医西药的知识结合起来，创造中国统一的新医学、新药学”，清晰而完整地表达了中西医结合思想。1958年，在卫生部呈送的中医研究院第一届西医离职学习中医班总结报告上进一步批示，要求各省市自治区举办西医离职学习中医班，培养“中西结合的高级医生”，“出几个高明的理论家”。从此，“中西医结合”正式成为各类有关文件、学术论文、新闻报道的常用名称。