“后来居上”这个成语的意思是后来的超过先前的，特别用来形容后起之秀胜过了前辈。在今天这是一个褒义词，但是在这个成语最早诞生的时候，却是一个地地道道的贬义词。
这个成语出自《史记·汲郑列传》。汲黯是汉武帝时期的著名大臣，这个人的特点是为人严正，严正到了令人畏惧，甚至令汉武帝本人也畏惧的地步。起初汲黯官拜谒者，为皇上掌管传达之事。东越的两族人互相攻伐，汉武帝令汲黯去视察调解。汲黯到了半路的吴县就回来了，对汉武帝说：“越人相攻，只不过因为他们的性格本来就好斗，不值得皇上过问，也不值得皇上派我去调解。”此公居然如此明目张胆地违抗诏令，还振振有辞。
河内郡失火，连绵烧了一千多家，汉武帝又派汲黯去视察。汲黯这回倒是真的去了，不过回来说的话更气人：“有一家人不慎失火，因为邻居住得密集才蔓延开来，皇上不必担心。倒是我经过河南郡时，发现河南的老百姓饱受水旱灾害，灾民多达万余家，有的甚至父子相食。我就自作主张，凭着皇上所赐的符节，命令河南郡开仓放粮，赈济灾民。现在我回来了，请皇上治我的矫诏之罪。”此公不务正业，在路上乱管闲事，汉武帝听了也无话可说，只好把汲黯贬为荥阳令。
谁知汲黯根本看不上这个小小的荥阳县令，觉得简直是对自己的羞辱，于是称病不去上任，回到老家休养去了。汉武帝无可奈何，只好又把汲黯召了回来，官拜中大夫。汲黯仍然改不了老毛病，经常直言相谏，汉武帝实在忍受不了，又把他贬为东海太守。这一次汲黯没有再任性，在东海太守任上无为而治，自己病怏怏地天天躺在卧室里睡觉，居然把个东海治理得井井有条，官民人等交口称赞。汉武帝又赶紧把汲黯召回来，官拜主爵都尉，位列九卿。汲黯的官越做越大。
窦太后的弟弟武安侯田蚡做了宰相，百官来朝贺的时候，年俸中二千石的大官都行跪拜之礼，田蚡非常傲慢，根本就不还礼。他傲慢，汲黯比他更傲慢，见到田蚡的时候作个揖就算作行礼了。
汉武帝好儒学，广揽天下的文学之士和儒生。汲黯看不过去了，公然在朝堂上进谏说：“皇上您其实内心里的欲望很多，对外却偏偏假装要施行仁义，怎么能真正获得唐尧虞舜那样的功绩呢！”汉武帝一听，照例地沉默不语，但是越想越生气，不等结束上朝的时间，拂袖而去。回去对近侍发牢骚：“汲黯这个人，真是他妈的又戆又愚！”大臣们都替汲黯担心，有的还数落汲黯不该这样赤裸裸地指责皇上，汲黯回答说：“皇上要咱们辅佐他，难道咱们都非要阿谀奉承不可？这不是明摆着要陷皇上于不义吗？”
汉武帝气消了以后，也不再怪罪汲黯。相反，大将军卫青入宫侍奉，汉武帝就蹲在厕所上接见他；丞相求见，汉武帝有时连帽子都忘了戴。可是汲黯求见的时候，汉武帝帽子没有戴好是不会接见他的。有一次汉武帝坐在武帐中，汲黯前来奏事，汉武帝还没有戴帽子，一看见汲黯，赶紧躲进帐子里面，嘱咐近侍代他出面，汲黯奏什么就准什么。
对丞相公孙弘，汲黯指摘他是小人，“怀诈饰智”，阿谀皇上；对酷吏张汤，汲黯更是一见就上前痛骂他实行苛法，不过就是个刀笔吏，有什么资格做公卿。以前这两个人都比汲黯官小，现在反而都爬到了汲黯的头上。汲黯也不是圣人，心中常常愤愤不平，就对汉武帝抱怨说：“皇上您用人就像堆柴火垛，后来者居上。”汉武帝只好照例地沉默不语，权当耳旁风。
这就是“后来居上”这个成语的出处。汲黯的意思是指汉武帝用人就像堆柴火垛，最后堆上的反而越靠上靠前，把最早堆上的都压了下去。抱怨汉武帝用人喜新厌旧，当然是一个贬义词了。如同许许多多的汉语词汇一样，在漫长的语义演变中，“后来居上”渐渐走向它的反义，变成了一个夸奖后辈的褒义词。