牙的本义是指大牙，即臼齿、槽牙，后来在词性引申的情况下，泛指所有的牙齿。古时候，猛兽的牙齿常常被人们看作是强大力量的象征。因此，古代的一些军事将领、长官，常把兽牙放在自己处理军事要务的办公地点。后在军营中也逐渐出现了边缘裁剪不齐的牙旗。人们也将这样威武之士的尊门，称为“牙门”。汉朝末年，牙门逐渐演变成官府的代名词。

而后在汉字的演变过程中，人们另造了“衙”字来取代“牙”字。唐朝以后，衙门一词广为流行。到了北宋以后，人们几乎只知道衙门，而不知道牙门。 （主讲人  李健 甲骨文专家）