山西的足协杯历史要追溯到1960年的山西体院。
1960年在上半年举行全国足球甲、乙级联赛以外，另在下半年组织了全国足球锦标赛。这个竞赛是以队为参加单位，采用由下而上，层层竞赛的办法。这是新中国实际意义上的首次由下而上，几乎全部采用淘汰制，并由业余和专业选手大面积参与的全国足球锦标赛事，也是唯一的一次。全部竞赛分为第一、二两个阶段进行。第一阶段是省、市、自治区一级的竞赛，第二阶段是由各省、直辖市、自治区的冠军队参加的全国一级的竞赛。
第一阶段规定从属于各该省、直辖市、自治区的全国足球甲级队必须参加，其他参加单位由各省、直辖市、自治区体委自行规定。竞赛办法尽可能采用淘汰制进行竞赛。全部比赛必须在9月15日以前举行完毕。但从实际情形看，可以肯定的是并不是所有甲级队都参加了该项赛事。
山西体院第一轮遇到呼和浩特，两回合均为0-0；最后通过抽签山西体院战胜了呼和浩特进入第二轮；第二轮1-3不敌哈尔滨，就此止步。