「提纲挈领」是由「提纲」和「挈领」二语所组成。「提纲」的典故源于《韩非子．外储说右下》，主要内容是说，摇动树木，若一片片掀动树叶，费力而劳累，也不能使树叶全部摇动；若左右拍打树干，树叶就全部被摇动了。在深潭的岸边摇动树木，鸟儿惊吓而飞向空中，鱼儿惧怕而游入水底。

善于张网的人，只须牵动系网的大绳，鱼网就能张好。若要逐一地牵引网目，才能使网张开，那是劳苦而艰难的工作。只要能提起系网的大绳，网孔就能张开，鱼自然就入网了。所以官吏对于人民，就像树叶的本，鱼网的纲，因此圣主只治理官吏而不直接治理人民。

「挈领」则出自于《荀子．劝学》，其内容提到，想要追溯先王的本源，探求仁义的根本，那么遵循礼法正是入道的捷径。这就像提起皮衣的领子，然后弯曲五指去抖动它一样，整件皮衣的毛就全都理顺了。

「提纲」和「挈领」的原意是指张网要抓大绳，拿衣要提衣领，后来就被合用为「提纲挈领」这句成语，比喻要掌握事理的关键大纲。