左宗棠在西北攻打捻军的时候，上报朝廷的奏折中这样写道：“布政使衔福建补用道胡光墉，每遇军用艰巨饷需缺之时，不待臣缄续相商，必设法筹解。”在极其艰苦的条件下，左宗棠向朝廷报的折子上写道：“浙江绅士布政使衔在籍候补用道胡光墉，经臣奏派办理臣军上海采运局，已逾八年。转运输将，毫无贻误。臣西征度陇，所历多荒瘠寒苦之地，又值连年战事，人物凋残殆尽。本省辖款，无可设施，关省关欠解协饷，陈陈相因，不以时至。每年准发足饷，先犹以两月为度，继则仅发每年一回，而忧虑不能如期收到，转散各营。第年岁事将闹，辄束手悬盼，忧惶靡已。”后又褒奖胡雪岩的勤勉用心，写道：“胡光墉接臣予筹出息借济缄牍，无不殚精竭虑，始向洋商借巨款，格于两江督臣非体之议中止，继屡向华商筹借，均如期解到。去冬华商借款不敷，胡光墉勉竭己资，并劝各亲友协同出借，计借十万两，以副期限，不取息银。其力顾军需深明大义如此。”
后来在收复新疆之时，胡雪岩对左宗棠的帮助不仅仅是表现在向那些洋人借的巨款上，还有就是自己掏钱购买军械装备，有了先进的武器是打败阿古柏的重要因素。
这些事使得左宗棠更对胡雪岩的挺身而出而感到震撼和感激，于是在奏折中这样写道：“如前购之布洛斯后膛螺丝开花大炮，用攻金积堡贼巢，下坚堡数百座；攻西宁之小峡口，当者辟易。上年用以攻达坂城，测准连轰，安宜震惧无措，贼畏之如神。”