“五更”是汉代开始通行的夜间计时制度，一夜分为五个更次，每个更次大约两个小时。“五更”也叫“五夜”，最初以甲、乙、丙、丁、戊命名，称作甲夜、乙夜、丙夜、丁夜、戊夜。又叫“五鼓”，更夫用鼓打更报时。宫廷巡夜的警卫交接班，都以五夜来划分安排，闻鼓声交接班。
“三更”是指夜晚十一点至一点，因此“三更”就是“半夜”。那么，为什么把“三更”和“半夜”连用呢？这岂不是重复了吗？原来，“三更半夜”这个俗语有阴谋的含义在里面。
“三更半夜”一语出自《宋史·赵昌言传》。朋党是中国古代官僚集团特有的现象，士大夫们为了争取利益最大化，或者为了政治理想的实施，朋比结党。其中因科举而结成的朋党叫“科甲朋党”，“科甲朋党”是宋代以后最重要，最引人注目的朋党。宋太宗太平兴国三年（978年）有三人都中了进士，状元是胡旦，省元（第三名）是赵昌言，同榜中还有一位叫董俨。三个人都做了官，胡旦任起草诏令的知制诰，赵昌言任工部侍郎，董俨任掌管财政收支的度支副使。赵昌言和时任掌管盐、铁、茶专卖和征税事宜的盐铁副使陈象舆关系很好，因此，虽然陈象舆不是赵昌言同年进士，但也加入了“四人帮”小集团，结成了“科甲朋党”，成为当朝一支重要的政治势力，他们的主要政敌是当朝宰相赵普和太子元僖。
这个“四人帮”小集团的活动异常频繁，不管白天深夜，总是聚集在赵昌言的府中商讨政事。由于是公开结党，因此朝野上下都知道这个小集团，京城民谣称之为“陈三更，董半夜”。这个小集团指使佣书人翟颖上书诋毁时政，并且狂妄地自荐为大臣，又举荐可以充任辅臣的十人。结果是宰相赵普流放了翟颖，同时将四人全部贬官，这个“三更半夜”的科甲朋党被一网打尽。
从此之后，“三更半夜”就成为一个固定用语，指深夜，同时含有贬义成分，比如坏了良心的人会招致“半夜三更鬼敲门”。