1923年5月，徐向前考入了黃埔軍校，成爲了第一期第一隊的一名學生兵。

在這裏，每天的操練和勤務都很緊張。天不亮起牀，跑步，進課堂，連喫飯都限定時間。操場設在珠江岸邊，有時江水淹沒了腳脖子，還是要照樣操練。有些少爺出身的兵，過不慣軍校緊張的生活，常常嘆氣。徐向前從小喫苦多，磨練出了不怕苦的性格，卻感到軍事生活很愉快。他不肯多語，常常一個人靜坐，讀書，思考。儘管他學習努力，參戰勇敢，但是因爲沉默寡言的性格，並沒有引起上級的注意。在軍校的衆多學生中，他被看成是一個靦腆的青年。

在黃埔軍校，校長蔣介石每月要找不少學生當面測試和談話，從學生中發現了不少人才，收爲己用。這一天，蔣介石又要找學生談話，學生們排好隊，站在辦公室外面，一個個叫進去，又一個個走出來。

輪到徐向前了，他被叫進蔣介石的辦公室，對話是這樣開始和結束的：

蔣介石看看他，問道：“叫什麼名字？”

答：“徐象謙”（徐象謙是徐向前當時的名字）

問：“是什麼地方人？”

答：“山西五臺縣人”

問：“在家幹過什麼？”

答：“當過教員”.......

一問一答，機械無趣。蔣介石畢業於日本士官學校，又是校長，儼然像個法官，而不肯多吐露半句話的學生徐向前，簡直像個被告。校長看看學生，學生看看校長，尷尬得無法談下去。

在蔣介石眼裏，徐向前是個“最沒出息”的學生，談話沒有興趣了，他揮揮手，徐向前走了出來。

黃埔軍校出了不少人才，後來許多人成了國民黨和共產黨的高級將領。蔣介石這時怎麼也不曾料到，就是這個呆板無趣的學生，幾年之後，躍然變成了威震中國的著名軍事將領，成了共產黨三大主力紅軍之一——紅四方面軍的總指揮。他統帥下的紅軍，在大別山、川陝地區，把國民黨軍隊幾萬幾萬地消滅。後來，更是成爲新中國赫赫有名10大功勳元帥之一。

蔣介石晚年談及徐向前，後悔不已，稱當時是自己看走了眼，把這麼好的人才放給了中共。