全民抗战爆发后，日军攻势凌厉，很快占领了河北、山东，打通了津浦路，另一边由于驻守石家庄的刘峙zhi不战而逃，导致晋东南门户大开，在昕口前线坚持了半年之久的主力也因为侧翼暴露不得不放弃作战计划，随后日军兵锋直指太原，阎锡山由于忙于军务，且还要组织太原方面的防守无暇北顾，这就给了傅作义机会。
当抗战进行到第三个年头的时候，机会来了，此时的傅作义意识到绥远境内已无其它晋军部队，加上阎锡山在山西自顾不瑕等诸多因素，认为时机成熟，便派人到重庆和兰州活动，终于谋得了第8战区副司令长官的职务，全权指挥绥远军政指挥事宜，就此开始了“独立活动”。
此后傅作义在绥远整军经武，并开办了培养嫡系干部的军事培训机构。
1940年3月20日，枕戈待旦的第35军向日军盘踞的五原外围展开攻击，当日午夜，中队向五原旧城、梅令庙、新公中等日军据点同时发起进攻。
战斗持续到26日中午，日军在飞机掩护下进入五原，后又于4月1日逃出五原，撤出河套地区，五原战役至此结束。
五原在当时是中队在绥远的军事中心，也是绥远省政府的政治中心，五原的收复，不仅使笼罩在战局失利阴影下的军民士气为之一振，也给了在华北地区的日伪军以沉重打击，在政治上和军事上，都有着重要的意义。
在这一段时间的冬季攻势中，第35军与日军恶战包头、五原，取得了击毙日军骑兵第14联队长小林一男（这是日军在绥远阵亡的最高级军官）、五原特务机关长桑原荒一郎、歼灭绥西警备军的战果。
鉴于35军及傅作义所取得战绩，南京军事委员会授予其青天白日勋章一枚，
尤其是该部32师95团1营，战后获颁军中最高荣誉“飞虎旗”一面，这也是唯一一支非嫡系部队获颁如此殊荣，同时也是唯一营级部队获颁此殊荣。
在接下来的四年中，35军仍然在绥远与日军相持，在此期间，日军的历任驻蒙军司令官在上任后的第一件事，就是调集部队寻求与35军决战，但全都失望离职，35军在此期间也先后迎来了它的第二任军长——傅作义麾下二虎之一的董其武。
不过这位后来成为解放军开国上将的将军只在军长的位子上待了一年半多，就调升为战区政治部主任。
继任的鲁英麟虽然足智多谋，但由于是半路入伙，在军中威望不高，鲁英麟倒也有自知之名，他到任后就申明自己只是过渡，他这个军长也只是傅作义的传话人，加上之后抗战的胜利，35军的官兵们全都沉浸到胜利的喜悦之中，也就没有多少人去反对这位军长了。
察哈尔、绥远两省，是国共大规模战争的，也是大型城市攻防战的开端，由于傅作义指挥得当，35军先后在归绥、集宁、张家口告捷，屡次击败华北地区的八路军，尤其是攻占张家口一战，其主力部队第101师出尽了风头，这对于在中原、华东地区连战连败的来说，形成了鲜明的对比。
为此，国民政府特授予傅作义国光勋章，这枚勋章，在当时仅有蒋介石一人获得，时至今日也仅有五人获得，但五人中，仅傅氏一人，是实打实的以战功获此殊荣。
1947年12月，河北军政划归傅作义，国防部是希望傅氏能继续发挥他的出色才干，将华北解放军予以彻底“剿灭”，以此稳定华北局面，进而增兵东北。
新任华北“剿总”总司令傅作义带着35军前往北平就职后确实踌躇满志，不料仅过了一个月，35军就在涞水一战受挫。
在这次战役中，35军的损失并不重，但重炮的全部丢失，以及新32师师长李铭鼎的阵亡，却终结了35军的常胜之名。
鲁英麟自感对不起栽培他的傅作义，遂于1948年1月13日在高碑店自戕谢罪，接替他的，则是有猛将之名的、傅军三杰之一的郭景云。
35军很快就恢复了元气，但在华北解放军的不断奇袭下，奔波于冀、察两省，没有什么大的建树。
时间一转眼就到了1948年底，这时候的华北解放军猛攻张家口，誓雪两年前在张家口之耻。
35军（此时辖101师、262师、267师）奉命以主力由北平驰援（留第262师驻北平），再次击退了解放军的进攻，但却没想到在奉命调回北平途中遭到了解放军的重兵伏击。
从12月8日到22日，35军经过14天的顽强抵抗，还是没能脱险，在此期间，傅作义不断抽调兵力增援，但都无济于事。
新保安一战，35军损失16000余人，军长郭景云自戕，副军长王雷震、参谋长田士吉以及师、团长多人被俘。
这支傅氏王牌驰骋沙场十余年，第一次也是唯一一次遭到了毁灭性的打击，消息传到北平，傅作义心痛万分，但重建35军、恢复该军名誉诸事刻不容缓，傅作义以留驻北平的第262师为基础，将35军重建起来，任命262师师长朱大纯为军长。
不过这支35军却没有雪耻的机会，在战局的不断变化之下，35军建成仅一个多月，就在傅作义的命令下于北平接受解放军的和平改编，它，起义了。
35军起义后，军部并入解放军第49军，所属三个师则分别改编为解放军的独立第35师、独立第90师和独立第99师。
两个月后，这三个师的番号全被撤消建制，其中独35师士兵拨归第42军，独99师士兵拨归第49军，独90师士兵分别拨归第47军和第63军，至于军官，愿意留下的，集中起来接受再教育，不愿意留下的，资遣回籍。
第35军，这支傅家王牌军的历史，至此落下了帷幕。，