兵也开炮还击，双方展开激烈的炮战。
兵工厂阵地的守兵在李思温团长的指挥下，面对优势敌军的进攻，顽强抵抗，击退敌多次冲击，黄昏后奉命撤入城内。守黄国梁坟阵地的张惠源部，受敌压迫，被迫退回城墙主阵地。日军跟踪而至，向城垣猛攻，受到守军的阻击，先后退出战场，进行整顿。不过，饶是这样，太原北城和东北城角，已经算得上**裸地摆在敌人面前了。
当晚，日华北方面军第1军下达作战命令，令第14师团及指挥的北线部队为攻城的主攻部队；第20师团一部协同第108师团作战。命令还决定，18日对太原城发动总攻。
17日拂晓，北城外日军利用城厢建筑物作掩护，东门外日军利用丘陵复杂地形作掩蔽，同时向城墙秘密接近，准备实施强攻。同时，日军一部绕过东城，向火车站迂回；另一部则由汾河上游渡河，进出于城西的汾河西岸，对太原形成合围之势。
日军主力步、炮、空协同作战，猛烈的炮火将守军连夜修复的城墙缺口重新摧毁。日军趁机猛攻城墙，守军不甘示弱，冒着炙热的炮火予以还击，战况极为激烈，城坡上敌尸成堆，大片黄土已经变成殷红色。我守军也伤亡惨重。
日军整天猛攻东北城角，伤亡很大，未得成功，很不甘心，又在黄昏时调集精锐，加大兵力，再次发动强攻。我城墙缺口守军，全力阻击，终于在兵员伤亡殆尽，援军一时调集不来的时候，被日军约2个中队近300人突入城内，占领了教场（东北城角以内地区）的炮兵营盘。这个炮兵营盘，孤立在北城墙下面，东西南三面都是平坦开阔的操场，在白天我军不易接近，日军也很难向外扩张，同时双方炮兵都不能发挥作用，因而双方形成了对峙局面。日军因后续部队一时不能进城，为了保持这股部队在城内扎下根，曾用飞机空投接济。
在东门亲自指挥第101师孙兰峰决议拔出这个楔入的毒钉，于是亲自挑选4个连组成奋勇队，对日军实施反击，经过一场极端惨烈的血战，在奋勇队几乎伤亡殆尽的情况下，终全歼该股日军，收复了该处阵地……
太原城内自从戒严司令部成立的那天起，就发现城内潜伏着不少的汉奸敌特，北门里的天主教堂，就是掩护他们的一个渊薮。在城内大街巷经常听到枪声，戒严司令部的巡查兵中就有在执勤期间被敌特黑枪打死的。为此戒严司令部也常扣捕一些行迹可疑的人，但始终也审问不出一点重要的头绪来。
造成这种状况的主要原因是太原的宪兵早已随着第二战区长官部撤走，太原警察机构已经瘫痪，失掉作用，新组织的戒严司令部及其所指挥的警宪部队，完全来自北面的大同，不了解当地情况，只有黑天暗地瞎摸索，偌大一个太原市，一时之间哪能想出有效办法。
5月15日以后，敌机滥炸市区，房倒屋塌，交通阻塞，电杆倾斜折断，电灯早已失明，电话线路时常发生障碍，虽随时修理，也修不胜修，显出一片混乱。
到了17日，街头巷尾到处是散兵游勇。不少食品