清明的祭扫，体现了中国人的祖先崇拜和浓厚的血脉亲情。祭祀祖先是发自内心的情感，要有虔诚的态度。“祭如在，祭神如神在。”祭祀祖先的时候，就好像祖先就在那里一样。孔子强调的是，祭祀的时候，心里的情感是最重要的。

曾子曰：“慎终追远，民德归厚矣。”终，是指的丧事，尤指父母的丧事。远，是去世已久的祖先。慎重地处理丧事，追怀、祭祀祖先，民风自然会趋向淳朴、敦厚。

上古的年代，人们用一横一竖的石块架成石桌，把“灵石”当作社神，也就是部落之神进行祭拜。后来，人们除了祭拜社神之外，还在家里放上一块石头当成祖先来膜拜。为了方便人们在迁徙中携带，这块石头改成了木制的牌匾。

古时候，人们死后自然地归于黄土，不植树、不设土堆作为标记，只是在宗庙里面留一个牌位以供祭祀。到了春秋晚期，人们开始封以土堆、种上树木以作标记。在《孟子·离娄下》里曾经提到一个为人所耻笑的齐国人，常常到东郭坟墓乞食祭祀的祭品，可见战国时代扫墓已经开始了。从秦始皇起，人们开始在墓侧加盖了陵寝。秦汉时代，人们不仅打墓坑，而且筑坟丘，上墓祭扫成为习俗。古人扫墓，最初并没有规定的日期。从唐朝开始，唐玄宗诏令寒食上墓。由于寒食和清明在时间上紧密相连，扫墓也由寒食顺延到了清明。