二十五日拂晓，我军向兰州发起总攻。在猛烈炮火的掩护下，步兵勇猛地冲向敌人的阵地。经过激烈的搏斗，二兵团第四军首先攻占了沈家岭主阵地上的中、下狗娃山。下午十七时，第六军攻克了南山最高峰营盘岭主阵地三营子。在我兵团范围内，第六十三军之一八九师于十六时攻占敌主阵地豆家山，第六十五军之一九三师于当晚攻占古城岭、马架山。战斗中，敌军指挥官用机枪和大刀督战，连续向我发动反冲击。我军攻占敌人每一道壕沟、每一道峭壁和每一个阵地，都经过了艰苦的战斗和反复的争夺，并多次拼刺刀，同敌人肉搏。
敌人依托强固工事，既利于发扬火力，又便于组织反扑；而我军从下向上仰攻，不但沟壕难越，削壁难攀，且兵力不便运动和展开。北望黄河巨流，傍城依山滚滚东去，雨季水大流急，浊浪涛涛。敌人夹河而阵，我军很难渡河四面围攻敌人。我军要全歼守敌，关键是夺取兰州主要屏障——南山，控制敌人唯一退路——黄河铁桥。
经黄河铁桥狼狈逃窜的敌人，只顾各自逃命，骑兵、步兵搅在一起，人马、车辆争相夺路，被车压死、被马踩死、被人挤死和落水淹死者不计其数。我控制黄河铁桥后，青马指挥官不顾士兵的死活，强令泅渡黄河，又使无数人葬身鱼腹。侥幸逃走的敌军，失魂落魄地向青海狂奔。下级军官和士兵纷纷携枪带马各自溃散，窜回青海的已是有官无兵、寥寥无几了。
第三种情况，如果青马放弃兰州而退西宁，二兵团即跟踪追击，一兵团则不失时机的堵击截击敌人，在享堂东西百里地区把青马主力消灭，然后再取西宁。第四种情况，如果我军攻兰州无效，而宁马主力又增援到兰州，敌人兵力加强，我再打兰州困难时，我军则可暂不急于攻兰州取西宁，而以一两个月的时间，着重做好新解放区的地方工作，建立地方工作基础，争取时间休整主力部队，解决粮食困难，运集充足的弹药，并开展对敌政治攻势，积极创造条件，然后再打兰州。当然，这种情况应当尽量避免，因此决定调三边地方军五个团加强六十四军，六十四军要全力阻击宁马，使其不能来援兰州。我们听了彭总的分析，对于彭总考虑问题的全面周到，对困难作充分估计和毛主席来电精神完全保持一致，深受启发和教育，当即向彭总表示：六十四军全军上下斗志高昂，在固原和海原又缴获了敌人四十多万发子弹，并有两个月的储粮，粮弹充足，工事也不断加强，他们有信心完成阻击宁马的任务，再加上五个团的支援，那就更有把握了。至于攻打兰州，现在已经摸清了敌人的阵地情况和兵力部署，只要有一两天的准备，大家有把握把敌人的阵地拿下来。
经过二十一日、二十二日两天的攻击，部队打得非常勇敢顽强，并多次和敌人肉搏，虽然给敌人以很大杀伤，但却没有夺得敌人一个阵地，自己的伤亡也很大。二兵团以四个团的兵力向敌人试攻，也未奏效。彭总根据这种情况，果断地下令停止攻击，迅速进行阵地总结：按二十一日的战术指示做好准备后再发动总攻。这次试攻虽然受挫，但是却摸清了敌人的部署和决心，了解到敌八十二军三个战斗力最强的主力师分别固守在敌防御体系中的马架山、营盘岭、沈家岭三个主阵地，敌一二九军及其他部队分别防守东西两翼各阵地及黄河北岸，背靠黄河天险，重点控制南山，分兵把守，城中再无预备队。更重要的是以血的教训使部队认清了轻敌思想的危害，头脑清醒地全力狠抓向敌人发动总攻的准备工作。
同时，鉴于我军对兰州敌军只是三面包围，北面退路黄河铁桥仍在敌人控制之下，仍然不能排除敌人在我大军压力下突然逃跑的可能性。因此、彭总又决定以九个团的兵力，于八月二十一日对敌人阵地进行一次试攻。其中，我兵团由六十五军和六十三军用五个团攻击豆家山、古城岭和十里山。这次攻击准备非常不足，就仓促投入战斗，同时在千里追击中，敌人不战而逃，指战员中轻敌思想有了新的滋长；有些指挥员唯恐敌人跑掉，不看地形，不察明敌人兵力火力的部署，没带爆破器材和炸药，更没有组织步炮协同，一上阵地就带领部队向敌人猛冲；有个连队甚至还没有弄清攻击目标就急急忙忙往上冲；有个团长在敌情不明的情况下竟说：“给我两个钟头，保证完成任务！”
当然，上述情况是在后来才完全弄清楚的。当时，我军深入敌人腹地，新区党的工作基础薄弱，缺乏内线，而马步芳又狡猾多变，精确地掌握敌人的动态作出正确的判断，是很不容易的。我军接近兰州的时候，得到的是两种互相矛盾的情报：一是敌九十一军和一二零军已从兰州北撤，拟随伪甘肃省政府退到酒泉，大批物资正由兰州运往西宁，兰州之敌正准备炸毁工厂，拆除电线，破坏黄河铁桥；一是蒋介石反动集团日有数架飞机运送弹药到兰州，青马正抢运粮食和磨盘进城，其八十二军主力在兰州加修工事，宁马准备以六个师出击，支援兰州之敌。根据这互相矛盾的情报可以作出两种截然相反的判断。彭总经过仔细分析，认为敌人在兰州的处境已不同于平凉，敌人在兰州决战的计划不会象平凉那样不决而撤，而且我军也必须尽一切努力迫使敌人决战于兰州，同时应当把情况估计得更严重些，把困难考虑得更多些，以此为立脚点，从各方面作好充分的准备。
第二种情况，是敌人弃西宁而全力固守兰州，这种可能性很小；或者以新骑六军及西宁警卫部队（一个师）守西宁，这种可能性很大。在这种情况下，我一兵团暂时不宜孤军深入去占领西宁。假如我军同时攻兰州、西宁而都受阻，宁马主力就可能乘我军远出疲劳之际出击我侧背，现天气渐冷，冬衣送不到，必会使我军遭到很大困难；即使我军占领西宁，而兰州未攻下，也因兵力分散，仍有此种顾虑。
八月二十三日，毛主席指示：马步芳既决心守兰州，有利于我军歼灭该敌。为歼灭该敌起见，须集中三个兵团全力于攻兰战役。王震兵团从上游渡河后，似宜迂回于兰州后方，即切断兰州通青海及通新疆的道路并参加攻击，而主要是切断通新疆的道路，务不使马步芳退至新疆为害无穷。攻击前似须有一星期或更多时间使部队恢复疲劳，详细侦察敌情、地形和鼓舞士气，作充分的战斗准备。并须准备一次打不开而用二次、三次攻击，去歼灭马敌和攻占兰州。彭总遵照毛主席指示立即调整了部署，并设想了可能出现的最困难的情况，于二十四日报告毛主席：决以三个兵团打兰州，王震兵团从兰州上游迂回兰北。宁马出动三个军经黄河左岸增援兰州的可能性很大。如两马集结兰州，加上周嘉彬、黄祖勋两部，共有十三万兵据守坚城，我军即使集中三个兵团短期内亦不易攻占，同时粮食很困难，运输线长，运输工具少，弹药都不能得到充分接济，运粮更不可能。故决定乘马鸿逵未到前围攻兰州，求得先解决青马主力。现二兵团和十九兵团攻城准备工作已妥，疲劳尚未恢复，粮食不足，油、菜更难解决，青马不断反袭，故很难得到休息。以现在准备工作看，攻城已有七、八成把握，故决定在二十五日晨开始攻击。如果未解决青马，而宁马援军迫近时，即以四个军围困兰州，集结五个军打宁马。毛主席接到彭总报告后，二十六日电复彭总，指出：如你们二十五日攻兰州得手，则局面起了变化。如不得手，则为侦察性质的作战，全军将因此种流了血的侦察战获得有益的教训，而确定了再战的胜利。如二十五日不得手而宁马来援，则请照你们二十四日电的决心，确定先打援、后攻城。
当夜，我军继续向敌人发动攻击时，发觉敌人逃走，立即发起追击。二兵团之第三军首先攻入城内，和敌军展开巷战。一部向黄河铁桥猛扑，消灭了顽抗的敌人，夺取了黄河铁桥，截断了敌人的唯一退路。撤出南山的敌军主力正在城里集中，当即被我歼灭。此时，第六军也已攻入城内，我兵团之六十三军、六十五军追击二十余里，直插东稍门，消灭残敌。到二十六日十二时，我军已占领城内外各要点，把敌人全部肃清，并越过黄河铁桥，占领白塔山，兰州宣告解放。
根据彭总的部署，二兵团的任务是进攻营盘岭、沈家岭和七里河，然后向兰州城西关和南关发展进攻，并以一部沿黄河南岸东进夺取黄河铁桥，一部从七里河地区相机北渡黄河，歼灭北岸之敌。我十九兵团的任务是，沿西兰公路首先攻占路南之马架山、古城岭、豆家山和路北之十里山，然后向兰州城东关发展进攻。看过地形以后，我们选定猪嘴岭作为兵团指挥所，从这里可以清楚地看见敌人的阵地。
我军一包围兰州，彭总即于八月二十一日，打电报给率领一兵团从左翼迂回青海的王震同志，指出：青马现决心固守兰州，我左兵团进占临夏后，可能动摇其固守决心，但也可能促其不顾一切决心死守，甚至放弃西宁，撤守大通河东岸及享堂、新城、湟水北岸，保障向河西的退路。在我军攻兰州六、七大不得手时，宁马主力就可能乘机增援兰州。青、宁二马有汽车两千辆以上，要充分估计到宁马主力车运兰州的可能性。如果出现这种情况，二兵团即可迂回兰州北部，我军将集中三个兵团于兰州会战。同日，彭总还以第一野战军司令部名义发出进攻兰州的战术指示，强调指出：“青马为今日敌军中最有战斗力的部队，在全国也是有数的顽敌，我们对他须有足够的估计，并作充分的精神准备，力戒轻敌骄傲急性”。指示中要求各部：“进攻时需仔细侦察，精密计划，充分准备”，“须集中优势兵力、火力、技术于一点，一个一个山头、房舍、阵地，逐次地歼灭敌人。不攻则已，攻必奏效”。“进攻中，须充分准备歼灭敌人反冲锋部队，组织消灭敌反冲锋的火力，构筑抗击反冲锋的工事”。“密切步炮协同。炮兵须反复精细地侦察敌人兵力、火力的具体配备，组织良好的战场观察，切忌盲目的射击。须知优势的炮火，在顽强的敌人面前，并不是万能的。”“对敌人外壕、陡壁的克服，须用挖对沟、改造地形来接近，用炸药来破坏。因弹药运输困难，炮击是辅助的”。
八月二十三日，彭总来到兵团指挥所。我和杨得志因前两天仗没打好，心情很沉重，准备挨一顿批评，便主动对彭总检讨说：“十九兵团部队在历史上还从来没有遇到过这样的情况：攻敌人的几个阵地，两天没拿下一个。军、师、团的干部都很憋气，急于要继续打，非出这口气不可。毛主席一再指示我们：千万不可轻视二马，否则必致吃亏。现在果然吃了轻敌的亏。我们虽然经常给自己敲警钟，并一再教育部队，克服轻敌思想，但是最近对部队的教育放松了，轻敌思想又有所抬头。这次仗没有打好，责任主要在我们兵团领导人身上。”出乎我们意料之外，彭总没有发火，他冷静地对我们说：“部队试攻受阻，其主要原因是轻敌，次要原因是敌工事坚固，敌人顽强。这次试攻是我决定的，时间仓促，部队准备不够。不过，通过试攻，也达到了了解敌人的目的。你们要告诉部队沉住气，总结经验教训，仔细研究敌人，扎扎实实的做好准备工作，待命向敌人发动总攻。”
经过二十三日、二十四日两天的准备，部队深入进行了政治动员，认真检讨了经验教训，仔细地侦察地形，反复地摸清道路，进行了沙盘作业，开展了军事民主，发动群众研究攻击敌人的战术，组织力量挖交通沟改造了地形，并动员一切人力、畜力和交通工具运送物资器材。这些准备工作是在克服了重重困难，争分夺秒、夜以继日地努力中完成的。二十四日，下了一整天雨，整个大地笼罩在云雾和蒙蒙细雨之中，这倒便利于我军进行准备工作，可是大家都希望这种阴雨天气不要持续下去，以免影响我军的总攻。到了夜晚，果然雨停云散，天空异常清澈透明，真是天公作美，给了我们这样一个好天气。大家开玩笑说：“马步芳作恶多端，激起了天怒人怨，老天爷也来帮助我们消灭他了。”
一九四九年八月二十日，我兵团与许光达同志率领的第二兵团会师于兰州城郊，从东、西、南三面包围了兰州。
当日，马步芳自兰州乘飞机仓惶逃回西宁，又于二十五日从西宁逃重庆。逃离兰州时，马步芳叮嘱其儿子马继援：如马鸿逵、胡宗南及空军再不来援，即保存实力，撤守青海。二十五日我军向兰州发起总攻后，兰州敌军总指挥马继授仍梦想以拼死坚守挫败我军的进攻，争取时间，等待宁马、胡宗南和空军出动。当日下午，据守兰州城郊的敌军主力伤亡惨重，阵地相继失守，城中又没有预备部队，等待宁马、胡宗南和空军来援无望，随即对坚守兰州失去信心，又深恐我军向西宁乘虚而入，剿其老巢，断其退路，于是慌张地决定撤出兰州，退至黄河北岸，重新部署部队。十六时，敌西北军政长官公署和各部队开始向黄河北岸撤退。青马的主力大都在阵地上，因怕我军发觉，不得不利用天黑夜暗，秘密撤走。由于敌人在危急情况下才被迫仓促决定撤退，因而一开始就陷入一片混乱。
彭总告诉我们：王震同志率领下的我军左翼的第一兵团前进的速度很快，已于二十二日占领了临夏，现在暂时停止前进，以部分兵力进占永靖，控制黄河，斩断兰州和西宁的联系，准备随时堵击截击敌人。彭总分析了我军占领临夏后可能引起的几种情况的变化和我军应有的对策：
兰州战役前后的十几天内，彭总几乎每天都向军委和毛主席报告前线情况，并多次得到了毛主席的指示。
在兰州决战中，宁马和胡宗南都在心急如焚地期待着青马挫我锐气，然后乘机向我侧后出击，妄想取得决战的胜利。直到八月二十四日，宁马仍然集中主力，蠢蠢欲动。青马主力在兰州战役中覆没，终于使他们的希望彻底破灭了。宁马主力害怕被歼，急忙逃回宁夏中宁、中卫老巢。胡宗南在青马主力被歼后，于八月二十七日出兵宝鸡与陇南，佯作支援姿态，遭我十八兵团侧击，大败而逃。国民党空军在兰州解放后的第五天——八月三十日，我军举行隆重的入城式，兰州全市人民欢欣鼓舞庆祝解放的时候，终于派来两架飞机飞临兰州上空，在我军高射炮的猛烈射击下，转了两圈就仓惶逃跑了。这就是在青马一再乞求下所得到援助。
国民党反动政府为了通过兰州决战，实现其在大陆保住一块反革命基地的计划，不惜挖肉补疮，派飞机连日向兰州运送军事物资。胡宗南掏出最后的血本，调集四个军于徽县、成县、两当及川陕公路，准备配合青马袭击我后方。宁马也深知兰州战役的成败将决定自己的命运，集结主力，摆出支援青马的姿态，企待有利时机出兵攻击我侧后。青马更把兰州决战看成是自己生死存亡的关键，马步芳参加国民党中央政府召集的西北联防会议后，于八月十九日从广州乘飞机匆匆赶回兰州，亲自部署一切。敌人以其战斗力最强的第八十二军和第一二九军两个主力军等部，共五万人据守兰州；以第九十一军、第一二零军、第八十一军共两万余人为左翼，于靖远、景泰沿黄河及打拉池地区防御；以新成立的骑兵军共两万人为右翼，控制临洮、洮沙地区。青马妄图依托兰州外围的强固工事挫我锐气后，以宁马和胡宗南部攻我侧背，用正面抗击和两翼包抄之战术，歼灭我军于兰州外围。同时，青马还急调驻新疆部队增援兰州，并一再致电国民党中央政府：“要求空军于会战期间，逐日派强大机群参加助战”。
解放兰州，歼灭了西北地区敌军中战斗力最强的青马主力，宣告了西北战场决战的胜利。从此，西北地区的敌人已丧失了组织任何战役的能力，而我军则可以纵横自如，横扫残敌。正如毛主席所预料的那样，西北战场再也没有严重的战斗，我军继续完成解放整个西北的任务，基本上只是走路和接管的问题了。
部队一到达集结位置，我们立刻上山去察看地形。这兰州城北濒黄河，三面依山，地势果然十分险要。环抱兰垣之皋兰山峰峦高耸，成为该城之天然屏障。山上有国民党军队在抗日战争时期修筑的永久性国防工事，解放战争中又不断加固。主要阵地筑有钢筋水泥碉堡群，通向城里的环山公路与各主要阵地相连接。对外有一至二道削壁，高约六米至十米，削壁腰部设有暗藏的侧身机枪掩体，削壁外面挖有几道外壕，宽深均为三米到五米，各壕间又有暗堡和野战工事，并有交通沟和暗道相通。阵地前还敷设铁丝网，并密布地雷群。敌人为此把兰州吹嘘为“攻不破的铁城”。
坐镇兰州的马步芳得知我一兵团占领临夏的消息以后，因完全出乎其意料之外，顿时惊恐万状，深感后方空虚，西宁老巢危急，遂急令骑兵第八旅和数个骑兵团窜回青海，增强西宁防御。同时，对马鸿逵、胡宗南按兵不动，使自己孤军困守兰州极为不满。八月二十三日，特派马骥急飞宁夏求援。八月二十四日又以十万火急电国民党中央政府：“窜洮河西岸临夏附近之共军第一军、第二军，刻正向永靖、循化进犯，患在腹心，情况万急！如陕署、宁夏友军及空军再不迅速行动协歼，深恐兰州、西宁均将震动。千钧一发，迫不及待！务请火速分催，不再迟延。”
第一种情况，是使兰州守敌增加了对其西宁老巢的顾虑，因而分兵防守，重点仍放在兰州。这样，有利于我攻取兰州，打下兰州后再抽部分兵力协助一兵团攻取西宁。
