廖耀湘，1906年4月12日生于湖南邵阳县北乡酿溪镇土桥村。其家道不甚富裕，但在当地农民中间，算是小康境地。祖父艺圃公，是一位饱读诗书的私塾先生，曾于乡里设馆授徒。父亲半耕半读。耀湘（耀为字辈名）这个名字显然寄托着祖父和父亲望其光大门楣、名耀三湘的期望，而他的表字“建楚”也正是名的引申，耀湘必定有建楚之才，当前辈起这名字时，也许没想到他的成就超过了他的期望，日后何止耀湘，而是名满华夏。

六岁时，他在祖父的指导下，开蒙读书，念祖祖辈辈传下来的“四书”、“ 五经”，等他略知经书精义时，清廷已经逊位几年了，由于有一帮三湘英才参与创建民国，此地开风气之先，有着远见的廖父觉得科举早已废除，仅仅凭读古书是很难有出息的，读新学堂，出洋留学才是成才正道。1918年，受过六年传统私塾教育的廖耀湘考进了县立高等小学，接受现代教育。

1920年冬天，廖耀湘从县立高小毕业，成绩优异的他考入了长沙私立岳云中学，这是所完全按着现代教育模式设立的新式中学。和闭塞保守的邵阳相比，长沙城不但是通衢大邑，而且在上世纪20年代初，是全中国各种思想激荡冲撞得最厉害的城市之一。1925年夏，19岁的廖耀湘从岳云中学毕业，当时中国的局势十分混乱，湖南的政局更是扑朔迷离，中学毕业的廖耀湘，在当时算文化程度较高的知识分子，北上报考大学非他所愿，而且乡下那个小康之家，也很难供得起一个大学生，受新思想影响的他，满怀少年的拿云心事，选择了南下报考黄埔军校。

为供廖耀湘在长沙五年的学习，全家几乎竭尽了财力，连供他去广州考试的路费都没有筹集到，他错过了黄埔五期的招生，不得已只好就近从军，解决吃饭问题，便进了赵恒惕属下的湖南陆军第三师叶开鑫的部队，从列兵干起。1926年5月，他脱离叶开鑫部回邵阳，筹集了去广州的路费。1926年7月，北伐军正式在广州誓师，一大帮黄埔前四期的学生开始了悲壮的军旅生涯，而廖耀湘就在这个月考入黄埔军校第六期，北伐的烽火与他无关。后来在抗日和国共内战的，国军重要将领大多是黄埔前四期，而廖耀湘以第六期这样浅的资历，成为领军大将，年纪轻轻就做到兵团司令，是军界异数。

1929年廖耀湘毕业时，北伐已经完成，中国名义上得到了统一，国民政府搬到了南京，黄埔军校也迁到首都，它的正式名称应当是中央陆军学校，所谓“黄埔军校”只是沿用在广州的俗名。廖是广州入学，南京毕业。前四期黄埔生，除了很多赫赫有名的战将，时势使然，他们在军校也就接受不到一年的训练，就投入了战斗。而廖入校后，接受的教育则更为系统、扎实。廖毕业时，国民政府雄心勃勃要打造一支现代军队，从中央军校里选拔一批优秀毕业生去法国留学，廖耀湘参加了1930年的留学考试，成绩列前三甲。可是最终确定名额时，他被刷下来了，理由是他个子矮，其貌不扬。在这关键时刻，廖耀湘演了一出“闯宫面圣”。他直接去找蒋介石，当着蒋介石，他大呼留法生录取不公，一千人参加考试，录四十四名，自己笔试在前三名，却名落孙山，考官的理由是他个子矮，脸上有个疤。他直率地对蒋介石说，这是选拔留法军官，又不是选女婿，相貌用得着那样重要？拿破仑的个子不也很矮？老蒋很欣赏这种初生牛犊不怕虎的性格，遂决定特批他去法国留学，临别前勉励一番。并向有关部门批示：该生系难得军事干才，学成归国后委以重任。

在法国，廖耀湘先毕业于圣西尔军校，后入机械化骑兵学校深造。 1936年，廖耀湘学成归国，先任中央军校教导总队骑兵队第三连少校连长，军士营学兵连连长。1937年“七七卢沟桥事变”爆发后，调任中校营长，不久调任第二旅中校参谋主任。这年11月，日寇逼近首都，廖耀湘参加了南京保卫战。南京保卫战的撤退，是军事史上一大败笔，犹豫不决、预案不扎实，使数万国军将士成为战俘，死在日本人屠刀之下，蒋介石和唐生智负有不可推卸的责任。 日本人进城后，廖耀湘成为困在城中的中国将士的一员，到处都是流血，到处都是屠杀，他一旦落入日本人手中，基本上没有生存的希望。12月13日，他脱下军装，换上便服，带领几个部下和几千难民躲进了南京城的栖霞寺，监院寂然法师是一位有着大智慧的爱国僧人，不但保护了许多难民，也想方设法帮助混在难民中的国军军官脱险。几天后，在法师和特殊部门工作人员的帮助下，廖耀湘和几位军人深夜坐船，到了长江北岸，脱离了这座人间地狱。南京脱险，是他军旅生涯真正辉煌的开始，他也将栖霞寺视为自己的福地。从此，猛虎出谷，利剑出鞘。