冯异是东汉光武帝刘秀手下的一员大将，刘秀登基第二年，派冯异剿灭赤眉军，冯异和赤眉军相持了好几个月，互有胜负。过了一年，与冯异联手的另外两位大将不听冯异的计策，结果中了赤眉军的计，大败，冯异也受到连累，连战马都顾不上了，徒步突围而出，麾下只剩下了几个人。冯异没有气馁，收集残兵共几万人，和赤眉军约期会战。会战前，冯异派遣了一支精壮的敢死队，人人都换上赤眉军的衣服，事先埋伏在路边隐秘之处。两军交战时，冯异故意示弱，赤眉军眼看着汉军士气不振，军容不整，立刻派来主力部队，准备全歼汉军。激战到下午，埋伏的敢死队突然冲出，加入战团，由于他们穿的衣服跟赤眉军相同，无法辨别身份，又加上都是生力军，赤眉军只好败退，冯异紧追不舍，大破赤眉军，二十万赤眉军全部投降冯异，至此，前后延续十年之久的赤眉起义以失败告终。
事后，刘秀下诏慰劳冯异，说：“赤眉破平，士吏劳苦，始虽垂翅回溪，终能奋翼渑池，可谓失之东隅，收之桑榆。方论功赏，以答大勋。”这是“失之东隅，收之桑榆”这个成语第一次在史籍中现身。各种辞书都把“东隅”解释为日出之地，把“桑榆”解释为日暮，但是“东隅”和“桑榆”为什么有这样的含义，却语焉不详。
“隅”和“嵎”是通假字，“嵎谷”是神话传说中的日出之处，因此用“东隅”来指代日出之地。“桑榆”通常解释为日落时阳光照在桑树和榆树的树顶，因此比喻日暮。此语出自唐人徐坚所撰《初学记》，其中转引的《淮南子》，在详细描写了一天之中太阳从东到西的路途之后，写道：“日入崦嵫，经于细柳，入虞泉之池，曙于蒙谷之浦，日西垂，影在树端，谓之桑榆。”崦嵫是神话传说中的日入之地，细流、虞泉、蒙谷都是太阳落山之前的必经之地。崦嵫大约位于今甘肃天水西境，古时候遍植桑榆二树，因以为喻。
明白了“东隅”和“桑榆”的来历，“失之东隅，收之桑榆”这个成语的意思也就明白了：比喻在这个地方失败了，又在另一个地方得到了补偿。联系冯异的遭遇，这个说法非常形象：冯异在回溪这个地方“垂翅”，被赤眉军打败，但是又在渑池“奋翼”，最终战胜了赤眉军。
因为刘秀创造的这个成语，“桑榆”又被后人用来比喻晚年。白居易（字乐天）和刘禹锡（字梦得）晚年都患有眼病和足病，看书、行走不便，白居易产生了消极情绪，写了一首《咏老赠梦得》的诗寄给刘禹锡：“与君俱老也，自问老何如。眼涩夜先卧，头慵朝未梳。有时扶杖出，尽日闭门居。懒照新磨镜，休看小字书。情于故人重，迹共少年疏。唯是闲谈兴，相逢尚有余。”针对老友的消极情绪，刘禹锡回复了一首诗，劝解白居易人老乃是一种自然趋势，既然抗拒不了，就要保持一种乐观进取的精神。这首诗名为《酬乐天咏老见示》：“人谁不愿老，老去有谁怜。身瘦带频减，发稀冠自偏。废书缘惜眼，多炙为随年。经事还谙事，阅人如阅川。细思皆幸矣，下此便翛（xiāo）然。莫道桑榆晚，微霞尚满天。”“莫道桑榆晚，微霞尚满天”从此成为千古名句，鼓励老年人发挥余热，永葆夕阳红的健康心态。