面对日军的防守策略，中国远征军决定先攻占凤山，进而对腾冲城的日军进行合围。1944年7月26日，远征军在空军的掩护下，对日军的堡垒群进行了进攻。远征军血战3日，在付出了巨大的伤亡之后，终于攻占了凤山，对腾冲城形成了四面包围之势。
腾冲城市是一座方形的明代古城，其外墙高5米，宽2米，用当地产的火山条石建造的，非常坚固。日军在此经营了2年，建造了大量的堡垒，构建了一座坚固的要塞。1944年8月2日，远征军对腾冲城发动全面的进攻。面对这座要塞，这一次远征军充分发挥了火力优势，在盟军空军的轰炸下，在腾冲城东南角炸开了一个10米宽的口子，随后工兵将其爆破至50米宽，远征军趁机冲入城中，展开激战。
虽然远征军攻入城中，但是城中的日军困兽犹斗，负隅顽抗。日军利用民居和堡垒，构建了层层的防御工事，对腾冲城中所有的街道都进行了火力封锁。远征军每前进一步，都要付出沉重的代价。正如20集团军会战概要所言：“攻城战役，尺寸必争，处处激战，我敌肉搏，山川震眩，声动江河，势如雷电，尸填街巷，血满城垣。”