杜聿明從小就喜愛玩弄槍支，十二歲時，在表哥李鼎銘辦的成家坌小學讀書。在學習上得到了這位嚴師的指點。祖父母及當家的伯父杜良輔相繼去世後，杜良奎一直在外教書，素來不問家務，杜聿明只好承擔管家的重擔。由於聰穎過人，很快掌握了一套經營家務、保全家業的本領。

杜十六歲時， 其父由榆林返家，見其因操家務，學業基本荒廢，大爲失望，決定把家務交侄兒杜聿成管理，杜便隨父到當時陝北二十三縣裏唯一的一所中學榆林中學榆中20級丁班繼續讀書。校長杜斌丞是杜聿明的堂哥，教師有陝西著名的共產黨人魏野疇、李子洲和教育家王森然、朱橫秋等。同班有後來成爲共產黨人的謝子長、霍世傑和以後成爲現代文學家的劉蘊華（柳青）等。

1923年，杜聿明在榆林中學畢業。同年8月，與比他大兩歲的曹秀清結了婚。1924年初春，不滿20歲的杜聿明與榆林同鄉閻揆要、馬師恭等人先後來到北京。杜聿明原想報考北京大學，但在京停留期間，他目睹北洋軍閥貽誤政事、膺竊國柄的黑暗。在《新青年》雜誌上，看到了黃埔軍校招生的廣告，由於革命思潮的影響和杜斌丞的薰陶，經過慎重考慮，毅然選擇投考黃埔軍校。

1924年3月，杜聿明和堂兄杜聿鑫、陝籍青年閻揆要、關麟徵、張耀明等十一人，從北京取道天津，搭乘英輪南下廣州。在校期間，對學習從不馬虎，軍校設置的步、炮、工兵等軍事課程、戰術戰法和隊列操練的演示、模擬等，他都是全身心的投入，極認真的學仿。杜聿明和同學們還參加了討平廣州反動商團的戰鬥，這是他第一次經歷真刀真槍的沙場衝殺。當年年底一期學員畢業以後，他被分配到何應欽第一教導團第一營第三連當見習官兼軍需上士。不久擢升爲第二排副排長。

國民二軍高桂滋團補充營營長、大地主吳寶山爲擴大自己的勢力，用重金聘請杜聿明爲副營長兼第一連連長。杜鄭重地給廣州革命大本營及黃埔軍校分別寫了書信，彙報情況，請示行動。國民黨中央組織部即回信指示：希望杜聿明仍留北方，爭取機會和馬湘聯繫，參加在北京碧雲寺停厝的孫中山先生靈櫬的守護。這時，正好高桂滋奉令率部開赴北京，擔任京畿的衛戍勤務，重新組編的吳寶山補充營也隨團北上。到達北京後，高桂滋把補充營改爲特務營，派該營進駐西山碧雲寺靜宜園，守護孫中山靈櫬。杜聿明仍任該營副營長兼第一連連長。

1926年7月，廣州革命政府誓師北伐。杜聿明南下歸隊。歷盡千辛萬苦到達南京，不幸被孫傳芳的稽查隊抓獲，關進南京老虎橋監獄。隨後越獄逃到武漢，去見鄧演達。去武昌南湖學兵團找黃埔軍校武漢分校學兵團團長張治中。隨後杜聿明在張治中學生兵團任第一營第三連中校連長。

1928年夏，張治中考察回國，任中央陸軍軍官學校訓練部主任，令杜爲該校杭州預科大隊第二中隊中校隊長；次年初，杜回南京軍校任第七期第四隊中校隊長；同年冬又任新編第一師第二旅參謀主任。1930年初，蔣介石成立教導第二師，張治中任師長，杜聿明任該師第二旅第五團一營中校營長，不久升爲該師第六團上校團長。

1932年初，徐庭瑤的第四師奉命開赴皖北參加大別山“圍剿”紅軍，在霍丘被紅軍鄺繼勳部擊敗。在關鍵時刻，徐令第二十四團全力反攻，杜聿明率部穿插，突入霍丘，使紅軍損失重大。徐庭瑤爲他記首功，並上報晉升杜爲少將團長。這年冬，徐升任第十七軍軍長，杜聿明被委爲該軍第二十五師第七十三旅旅長，不久升爲該師副師長。

1936年春，杜聿明從中央軍校高級教育班畢業。杜本應返第二十五師供職，但由於和師長關麟徵相處不甚和諧，不太願回去。徐庭瑤即向蔣介石保薦他到新成立的南京陸軍交輜學校擔任學員隊隊長，負責培訓指揮機械化部隊作戰的軍官。10月5日授予少將軍銜。

1937年，交輜學校戰車營、交通兵第二團所屬裝甲汽車隊合編，並補充一批戰車，建成國民黨軍第一個陸軍裝甲兵團，杜聿明委爲第一任團長。“八·一三”淞滬抗日時，杜率領裝甲兵團第一營的二、四兩連，在上海匯山碼頭協同步兵阻擊企圖登岸的日軍。

1938年12月，第二百師擴編成新編第十一軍，從湖南湘潭移駐廣西全州，杜聿明委爲副軍長。不久，番號又改爲第五軍，杜升任軍長。該軍是國民黨政府在抗日戰爭初期成立的唯一機械化新軍。杜提出：“操場就是戰場”，“平時多流汗，戰時少流血”，要求新軍具有“五除”（除驕、惰、僞、欲、惡）、“三習”（習精、誠、勤）的朝氣。