“尚方”为古代少府（一种政府机构）官属，有尚方令、尚方丞，负责为皇帝或宫廷制造御用物品。尚方剑，指经过精密锻造供皇帝使用的宝剑，据说锋利可斩马，故又称尚方斩马剑。

“尚方宝剑”一词最早见于《汉书·朱云传》：“臣愿赐尚方斩马剑，断佞臣一人张禹之头。”汉成帝时，宰相张禹曾经做过成帝刘骜的老师，很受宠幸。他私占大量土地和财物，生活奢侈淫糜。朱云是个敢于直谏的大臣，他对成帝说：“希望陛下能赐给我尚方斩马剑，杀掉奸臣张禹的头。”

成帝听了，很不高兴，命御史将朱云绑下。朱云紧抱栏杆，据理力争，以至栏杆因此折断。这便是“折槛朱云”的故事。《后汉书·蔡伦传》载：“中常侍蔡伦加位尚方令，监作剑即尚方剑。御用之器，臣庶不得私用，故言剑及诸器械，莫不精工坚密，为后世法。”

蔡伦曾经当过监作尚方剑的官员，后世天子或赐钦命大臣尚方剑以专杀伐。《后汉书·彭宠传》中载，朱浮对光武曰：“前吴汉发兵时，大王遗宠以礼必剑。”《冯异传》：“赤眉延岑暴乱三辅，以异为征西将军讨之。车驾送至河南，赐以乘舆，七尺玉具剑。”《晋书》载，张轨镇凉州，南阳王遗轨以帝所赐剑，谓轨曰：“陇以西征伐，悉心相委，如此剑矣。”

可见，“尚方宝剑”最初不过是为宫廷制造的刀枪剑戟的一种，后来特指古代帝王的佩剑，象征至高无上的权力。皇帝有时候把佩剑摘下来交给钦差以完成重要任务或使命，是权力和威严的象征，有时候还有“先斩后奏”的权力。