尚云祥身高不足一米六，被人称作“小糖瓜”。尚云祥对这个称号颇为不服，说：“糖瓜虽小，却要他崩牙！”后得李存义和郭云深真传，成为威震武林的宗师。

尚云祥，出生在山东乐陵尚家村。尚云祥很小的时候跟着父亲到京城，经营马蹬铺。这时，他一边向帐房先生学习文化知识，一边学习功力拳。比起文化知识，他更喜欢武功。努力学习六年后，自认为达到很高境界，无人能战胜自己。

但天外有天，人外有人。有一天，尚云祥路过护城河，见一人在练拳，与其比试。尚云祥刚一出手，就被对方摔了出去。尚云祥不服，再试，又被摔了出去。尚云祥这才知道对方武功远在自己之上，问：“你这是什么拳法？”那人笑着答道：“形意拳，刚学三年！”

尚云祥受此打击后，拜师李存义学习形意拳。李存义起初并不愿意收他，觉得他个子太小，幸得周明泰为其说情，才被收入门下。尚云祥得此机会，一刻也不敢懈怠。李存义见他如此用功，将毕生所学传授于他。由于练功太过痴迷，忽略了自家马蹬铺的经营，穷得连鞋都买不起。他只好赤脚练功，时间长了练得“踩功”，连砖头都能踩碎，被称为“铁脚佛”。

义和团运动被镇压后，李存义到山西避难（李存义参与了义和团）。尚云祥又拜郭云深为师，郭云深也是形意拳大师。郭云深将杆子功、半步崩拳、丹田气打传授于他。苦学几年之后，尚云祥的武功再上一层楼，杆子抡起来，连水都洒不进去。父亲去世之后，尚云祥关了自家的马蹬铺，并把家人送回老家，自己一个人在京城鼓楼专心练习武功。他将两位师父的武艺融会贯通，最后自创“尚氏形意拳”，独步武林。

尚云祥喜欢以武会友，在学成之后他经常与人比试武功。因为与人比试时，可以知道自己的不足。京津地区的高手都和他比试过，而他也很少失败。不管是输是嬴，他都与人和睦相处。终其一生，也未曾与别人结下仇怨。

尚云祥还当过太监总管李莲英的护院。护院的空闲时间，他都用来练武。在护院的十年时间里，他的武艺更加精进。有时兴致来了，还教李莲英练武。清政府倒台后，尚云祥在北京蒙藏学校（民国时的学校），担任武术老师。1929年，南京的国术擂台赛，尚云祥被聘为仲裁委员。

1931年，佐藤鸠夫想请他去日本讲学，尚云祥想都没想就拒绝了他。同年，二十九路军军长宋哲元，请他教士兵们武艺。为此，他用形意拳结合五行的相生相克，自创“形意五行刀”。这套刀法，让二十九军在喜峰口、罗文谷大获全胜。

1937年，尚云祥因病去世，享年七十三岁。尚云祥晚年，除了培养其他弟子外，还将自己毕生所学传给自己的女儿尚芝蓉。尚芝蓉跟他的父亲一样，从小喜爱武术。后来尚之蓉又将自己所学传于女婿刘峻峰，刘峻峰颇有祖师遗风，开办武校培养了很多尚氏形意拳弟子。

尚云祥一生，为武痴迷。当过镖师、护院、武术老师，国难来临时他拒绝日本人的巴结，自创刀法，大败日本军队。同时期的很多武林高手都和他交过手，他几乎没有失败过，足见武功之高。在《逝去的武林》这本书中，记录了尚云祥的学武经历。这本书是由尚云祥弟子李仲轩口述，徐皓峰整理而成。