汤和回京师奏报海防修筑情况之时，正好凤阳官邸已经竣工，便于洪武二十一年六月，带着全家回故乡凤阳了。
汤和提出告退，朱元璋才恩准了。
朱元璋得了天下之后，并不想让武臣们继续领兵，可以看出他对汤和的褒扬和厚赐，是为了影响其他武臣。
汤和告老还乡就退出了政治舞台。
他一年去京师一次朝见皇上，但他变得更加小心谨慎了。凡是听到的国家大事，从不向任何人透露。洪武二十三年，汤和正在京城小住，突然中风，话都说不出来。朱元璋特意到汤和的住处看望。经过一段时间的治疗，派人送回凤阳。朱元璋还专门让汤和的女儿回家侍候。汤和在这次得病之后，将他得到的赏赐分别送给邻里故旧，闲时就与乡间长者谈论些往事，从中寻找乐趣。洪武二十七年，汤和的病越来越沉重，朱元璋说他很想念这位同乡，便让汤和的女儿陪着再次来到京城。朱元璋像老朋友、老同乡那样，用手抚摸着汤和的背，回忆往事，汤和只是微微点头。朱元璋看到他病得这样厉害，不禁流泪了。后来在送汤和回凤阳的同时，朱元璋就让地方衙门为汤和选择葬地。
洪武二十八年八月七日，戎马一生的汤和死了，享年七十一岁。死讯传到京城，朱元璋立即派遣特使吊祭，最后经朱元璋批准葬于凤阳日曹山。