一早在道光十三年，左宗棠赴京会试，在北京结识了当时任翰林的胡林翼，二人顿成莫逆。二人“每风雨连床，彻底谈古今大政，论列得失，原始要终，若预知海内将乱者，辄相与欷歔太息，引为深忧。”每天晚上共居一室，彻夜纵谈，探讨天下古今政治得失，为大清王朝的前途忧心忡忡。左宗棠后来回忆他们初识之相时说：“我歌公咢，公步我趋。諧谑杂遝，不忘箴言。”纵歌击鼓，抚掌大笑，可见两个性格投合的年轻人相处起来是多么欢快。
左宗棠 资料图三年后，陶澍唯一的儿子又娶了左宗棠的女儿。这样一来，左宗棠和胡林翼又成了亲戚，不过左宗棠长胡林翼一辈，成了“季丈”。此后二人交往自然更加亲密。左宗棠常年居住在陶澍家里，替陶澍理家课子，长达八年。胡林翼也多次前往陶家，住在岳父家里。“林翼与先生风雨联床，彻夜谈古今大政”。彼此的了解越来越深，两个人在政局、人事、古今人物品评等方面观点高度一致。左宗棠在给朋友的信中说：“（两人）古今大政，以及古来圣贤、豪杰、大儒、名臣之用心行事，无所不谈，无所不合。”左宗棠性格刚直、为人自大，他自己也承认“我刚而偏”，一般人很难和他合得来，连湘军集团中很多人都看不惯他。曾国藩的好友刘蓉痛恨左宗棠，说左氏“立功一时，而流毒于十数年之后”，另一位好友郭嵩焘后来也和左宗棠成了死对头，李鸿章和左宗棠晚年也一直面和心不和。湘系之外的人很多对左氏更是深恶痛绝。比如曾任江西布政使的张集馨，在回忆录中满怀怨愤地骂左宗棠“存心阴险，极不易交”。能和这样的人保持一生的朋友关系是不容易的。好在胡林翼情商极高，知道如何捋这样的“顺毛驴”，所以两个人相交越来越深，甚至达到了无话不说、相互攻错的程度。在朋友中，只有胡林翼敢于毫不客气地指出左宗棠的缺点。左宗棠在写给朋友的信中说：“润之前此会葬，盘桓十日而别，深信宗棠相与之诚，而以论虑事太密、论事太尽为宗棠戒，切中弊病，为之欣服不已。”胡林翼说左宗棠的毛病是考虑事情太过严密，论断事情话说得不留余地。这话如果是别人说出来，左宗棠肯定会当场翻脸，而胡林翼说出来，左宗棠居然能痛快接受，并且还表示欣悦佩服。二左宗棠虽然一身臭毛病，但毕竟才华出众，无人能比。为了让只有举人身份的左宗棠不埋没在深山之中，胡林翼不遗余力，反复向他所认识的封疆大吏们进行推荐。他最早曾向林则徐推荐过，林则徐已经首肯，左宗棠却因为家事牵绊，没能出山。后来胡林翼又多次向湖广总督程矞采推荐左宗棠，称左氏“有异才，品学为湘中士类第一”，“品高学博，性至廉洁”，“读本朝宪章最多，其识议亦绝异。其体察人情，通晓治略，当为近日楚材第一”，“才学识力冠绝一时”云云，极尽揄扬之能事，可惜程氏没有识人之才，没被胡林翼热情洋溢的推荐打动。到了咸丰二年（1852）张亮基出任湖南巡抚，胡林翼正在贵州知府任上，又多次向张亮基全力推荐。胡林翼在给张亮基的信中这样说：左子季高，则深知其才品超冠等伦，曾三次荐呈夹袋中，未蒙招致。此人廉介刚方，秉性良实，忠肝义胆，与时俗迥异。其胸罗古今地图兵法、本朝国章，切实讲求，精通时务。访问之余，定蒙赏鉴。即使所谋有成，必不受赏，更无论世俗之利欲矣。时事孔棘，得人为先……计惟有举贤才以赞幕府，方为忠爱之至。计野人葵藿之诚，盖为此也。他反复四次向张亮基推荐，终于让张亮基动了心，决定礼聘左氏。然而推动左氏出山工程至此才算完成一半，剩下的一半是要做左宗棠的工作。因为左宗棠虽然满怀用世之志，但是架子却一直端得很高，总是摆出一副不屑出山的姿态，胡林翼全力举荐，左宗棠却屡“加诮让”。张亮基两次派人去请，左宗棠也坚拒不出。张亮基只好请胡林翼想想办法。胡林翼殚精竭虑，巧妙措辞，写信给左宗棠，劝他“屈已救人”。胡林翼说：张中丞两次专人备礼，走请先生，一阻于兵事，其一计已登青览……（张中丞）言思君如饥渴。中丞才智英武，肝胆血性一时无两。……默计楚祸方烈，天下之祸方始，非才不济，而大勋必成于张中丞。……林翼之意非欲溷公于非地，惟桑梓之祸见之甚明。而忍而不言，非林翼所以居心。设先生屈己以救楚人，较唐荆州之出山，所补尤大，所失尤小。设程制军听余言而坚求先生，楚祸何至如是之亟！区区爱国爱乡里愚诚，未蒙深察，且加诮让，且入山从此日深。异哉，先生之自为计则得矣！须知自古圣贤仙佛、英雄豪杰，无不以济人济物为本，无不以损己利人为正道，先生高则高矣，先代积累二百年，虚生此独善之身，谅亦心所不忍出也。把左宗棠捧到圣贤仙佛的高度，还说左氏如不出山，对不起二百年历代祖宗积累的德业。这样的高帽送上去，左宗棠才半推半就地出山，开始了他那非同寻常的幕僚生涯。左宗棠出身仅为举人，门第不过中农。如果没有掌握广泛人际资源的胡林翼如此全力举荐，他绝不可能一跃而成为一省巡抚的主要幕宾，一出山就左右全省事务。可以说，左宗棠的一生事业，都是胡林翼为他打下的基础。
胡林翼三而在左宗棠遇到危难时，胡林翼更是全力相救。咸丰九年(1859年)，永州镇总兵樊燮控告左宗棠劣幕不法。咸丰诏命官文查办，说如果左氏确有不法情事，可就地正法。曾国藩、郭嵩焘等一干朋友都积极设法营救，其中胡林翼尤其“焦灼急切”。从胡林翼写给官文的一件密函，可以见到胡林翼为此事所做的努力：湖南左氏季高，性气刚烈矫强，历年与鄂省交涉之事，其失礼处，久在山海包容之中，涤帅所谓宰相之度量，亦深服中堂（指官文）之德大冠绝中外百寮也。来谕言湖南之案并无成见，从公而断，从实而问，无甚牵连者免提，有关紧要者亦不能不指名提取，不能令罪人幸免一节，读之再四，心以为恐。……左生实系胡林翼私亲，自幼相处，其近年脾气不好，林翼无如之何……如此案有牵连左生之处，敬求中堂老兄格外垂念，免提左生之名。此系胡林翼一人私情，并无道理可说，惟有烧香拜佛一意诚求，必望老兄俯允而已。也就是说，左宗棠这个人性格刚介，多年来与湖北官方来往中肯定有很多失礼之处，一直得到您老的海量包容。曾国藩经常说您有宰相的度量，非常佩服您的德行。您来信说对此案并无成见，一切秉公而断，没什么关连的人当然能放就放，但是关键人物一定要追究罪责，这让我读了之后非常惶恐。左宗棠是我的亲戚，我和他打小就认识，这些年他脾气不好，我拿他也没什么办法。这个案子如果牵连到他，敬求您老人家格外关照。这是我出自个人的私情，也没什么道理可讲，只有一个劲地烧香拜佛，请你老兄一定同意。为了营救左宗棠，胡林翼四处求人，其中有些内情连左宗棠本人都未必尽知。正如刘坤一日后所说，如果不是胡林翼低三下四地四处求人，左氏“几乎殆矣”！虽然在给官文的信中，胡林翼说他只是因为左是私亲，“别无道理可说”。但是实际上，胡林翼此举主要是为天下惜人才。就像这次樊左冲突一样，左宗棠一生动辄与人发生矛盾，每当重大冲突发生，胡林翼都要跑前跑后，为左宗棠和稀泥，擦屁股，解危局。四在曾国藩和左宗棠的复杂关系当中，胡林翼也起了非常关键的作用。左宗棠虽然只是举人出身的幕友，但是一直瞧不起二品大员曾国藩，平时书信来往“不肯稍自谦抑”，“词旨亢厉，令人难堪”。曾国藩曾经向胡林翼诉苦，说左宗棠“遇事掣肘，哆口谩骂，有欲效王小二过年，永不说话之语”。咸丰七年曾国藩乡居期间向皇帝要官，左宗棠更是破口大骂，令曾国藩非常气愤，两人一度“不通音问”。