清军进入北京以后，一面巩固自己在畿辅地区的统治，一面逐步蚕食山西、山东两翼，为大举进兵作准备。六月，明恭顺侯之弟吴惟华自称应袭侯爵，“请招抚山西自效”。摄政王多尔衮欣然同意，派其前往山西招抚，又派明降官王鳌永以户部右侍郎兼工部右侍郎名义前往山东招抚。同月，“遣固山额真觉罗哈纳、石廷柱率将士平定山东一路”，“遣固山额真叶臣等率将士平山西一路”，以为武力后盾。
当时，姜瓖的背叛大顺政权使大同地区落入了清方手里，吴惟华乘势招抚了大同府南面的代州及所属繁峙、崞县。投降大顺政权的明将唐通，在大顺军西撤时同李过部一起退到陕西府谷地区。他看到大顺军的处境日益困难，就在清廷招诱下，向李过部发起突然袭击，随即把部队拉过黄河驻于山西保德地区，至九月十五日便拜表投降了清廷。整个山西北部遂为清方所有。
大顺政权山西节度使韩文铨、制将军陈永福和山西巡按李若星等见形势日益紧张，加强了保卫太原的准备。他们处死了明宗室千余人，又把大批明朝官绅押往陕西，借以消除内患。陈永福还遵照李自成“坚壁清野”的指示，下令拆除了城外关厢的全部房屋，以兔清军攻城时用作掩蔽，并且派出军队“四出搜野，为固守计”。九月十三日，叶臣等统率的清军经固关进抵太原城下。在一段时间里，陈永福等人防守太原是相当认真的，清军无机可乘。十月初三日，清军调来“西洋神炮”，集中火力轰击西北城角，城垣被毁塌数十丈，清军由缺口一拥而上。大顺军抵挡不住，从东门突围，又遭到埋伏在城外的清军截杀，伤亡很大。陈永福向南逃脱，后来投降了清朝。节度使韩文铨战死，巡按李若星投降，山西省城太原遂告陷落。
晋东南长治地区，大顺政权原派平南伯刘忠镇守。开始刘忠也采取了拆毁关厢民房等坚壁清野措施，防备清军攻城。可是，八月间清将孟乔芳等从泽州（今晋城）北上进攻长治时，刘忠却弃城而逃。大顺政权防御使孙明翼、潞安府尹师心知以及长子县令、屯留县令均被捕杀。清军以原明朝潞安府通判冯圣兆署冀南道事，随即北上参加攻取太原之役。刘忠探知清军已离长治，又引兵来取。冯圣兆会同当地士绅，驱迫百姓据城防守。刘忠以帛书射城上说：“明亡，天下分裂，秦晋当属我，而拒之，是逆也。百姓执冯通判出，即不屠。”因此城中人心动摇，“啧啧多偶语”。但冯圣兆以清军势盛相威慑，继续坚守。十月，清军攻破太原，派兵来援。刘忠被迫经泽州撤退，攻阳城十一昼夜也未能得手，不得不率部转入河南。至此，山西全省仅剩下西南一隅仍属大顺政权，李自成扼守山西的计划已基本瓦解了。