《诗经·大车》：“谷则异室，死则同穴。谓予不信，有如皦日。”这是一位女子的誓辞。“死则同穴”即合葬，可见这一习俗从春秋时期就开始了。不过，有史可稽的合葬第一人，乃是大名鼎鼎的周公。
据《礼记·檀弓上》载：“季武子成寝，杜氏之葬在西阶之下，请合葬焉，许之。入宫而不敢哭。武子曰：‘合葬非古也，自周公以来，未之有改也。吾许其大而不许其细，何居？’ 命之哭。”季武子是鲁国的正卿，他要修建陵寝，杜氏之墓刚好位于西阶之下，杜家的后人请求允许他们将先人合葬，季武子答应了。但是杜家后人入宫迁葬的时候却不敢哭，季武子说：“合葬不是古制，而是从周公开始的，到现在也一直没改变。我允许你们迁葬却不允许你们哭，这是什么道理呢？”于是允许杜家的后人为先人哭泣。
接着，这一章又记载了季武子的另一句话：“舜葬于苍梧之野，盖三妃未之从也。季武子曰：‘周公盖祔。’”郑玄注解道：“祔（fù）谓合葬。合葬自周公以来。”舜的时代还没有合葬之制，正如孔颖达所说“以古代不合葬，且天下为家，故遂葬于苍梧之野”，“古不合葬，故舜之三妃不就苍梧与舜合葬也”，“周公以来盖始附葬，附即合也，言将后丧合前丧”。
《礼记·檀弓上》在同一章还讲了孔子为父母修合葬墓的故事，从中可以看出上古时期的葬制。“孔子既得合葬于防，曰：‘吾闻之，古也墓而不坟。今丘也，东西南北之人也，不可以弗识也。’于是封之，崇四尺。孔子先反，门人后，雨甚，至，孔子问焉，曰：‘尔来何迟也？’曰：‘防墓崩。’孔子不应。三，孔子泫然流涕曰：‘吾闻之，古不修墓。’”
孔子在“防”这个地方为父母修建了一座合葬墓，说：“我听说古时候墓而不坟，我孔丘乃是东西南北四处漂流之人，不能不作一个标记。”于是修了一个高四尺的坟头。修完后孔子先回了家，弟子们回来晚了，孔子问道：“你们怎么回来得这么晚啊？”弟子们回答说：“您走了之后下大雨，墓被雨淋坏了，我们重新将它修好，因此花费了一些时间。”孔子听了这番话，半天没有回应，弟子们说了三遍，孔子才流着眼泪说：“我听说古时候不修墓。”
从这个故事可知，在春秋时期之前，第一“墓而不坟”，只有墓而不立坟头，第二“古不修墓”，墓坏了也不会再修好，第三，此时已经实行了合葬之制。孔子之所以“泫然流涕”，乃是因为修墓违反了古制。孔子一生“吾从周”，遵从的是周代的礼仪制度，于此可见一斑。