“斤斤计较”意思是对琐碎细小、无关紧要的事情过分计较。这里的“斤”不是指一斤两斤，“斤斤计较”也不是对一斤两斤过分计较，“斤斤”是形容明察秋毫的样子，由此可知，“斤斤计较”本来是个褒义词，现在却变成了贬义词。
“斤”的本义是伐木的斧子，引申为砍削，当动词使用。砍削的时候自然要看得分明，否则一不留神就会砍到自己的手，因此“斤斤”引申为明察之意。这个词出自《诗经·执竞》。《执竞》是合祭周武王、成王和康王的诗篇，其中称颂“自彼成康，奄有四方，斤斤其明”，意思是从成王和康王的时代起，扩张领土，拥有了天下四方，得益于成康的英明善察。《汉书·叙传》中也有“平津斤斤”的记载，表扬平津侯公孙弘明察秋毫。
经过漫长的语义演变，“斤斤”跟“计较”连用到了一起，成了一个贬义的成语。“斤斤计较”有个同义词“锱铢必较”，不过跟“斤斤”相反，这个成语中的“锱铢”倒是计量单位，“锱”是一两的四分之一，“铢”是一两的二十四分之一，因此“锱铢”比喻极其微小的数量。