小学就读于北京师范附小,该校极重视音乐、美术及劳作课程,这对他以后选学园艺,从事造园有极大影响。余树勋初中毕业时正值日军入侵华北,近逼古北口,故举家随父奉调迁往南京。南京众多的常绿树木和花草使余树勋陶醉,更增强了他学习园艺的决心。1937年高中毕业后即报考了浙江大学园艺系。因日军在上海吴淞登陆,抗日战争全面暴发,南京形势紧张,全家匆匆逃难武汉。到武汉后恰逢广西大学还在招生,遂又报考了广西大学农学系并被录取,随即赴柳州沙塘就读。1938年
杭州失陷后,浙江大学迁入广西宜山,与沙塘近在咫尺。经打听得知1937年已被浙江大学录取,尚保留学籍。余树勋学习园艺的念头重又萌生,于是毅然退学,到宜山浙江大学园艺系重新入学。抗战初期的浙江大学在桂黔山区几经辗转,终于在1940年于贵州湄潭安顿下来。尽管困难重重,生活十分艰苦,但余树勋在吴耕民、熊同和等著名教授的悉心教导下,终于1942年暑假学成毕业并获学士学位。
大学毕业后,余树勋经吴耕民教授推荐,应聘到云南大学任助教,并有机会参加曾勉教授主持的果树蔬菜研究工作。1948 年秋,余树勋参加了中国共产党的地下组织,在云大组织讲师会与反动当局进行斗争,并因此被解聘。在组织安排下,余树勋获得越南河内大学互换留学生机会,
1949年暑假到河内。当时正值河内解放前夕,无法学习。农学院法籍院长鼓励余树勋到巴黎学习,并愿负责安排乘船和资助一半旅费。甫抵巴黎后,余树勋发现滞留巴黎的中国学生多达5000余人,很难入学就读。后经在丹麦留学的陈俊愉推荐,到丹麦皇家农业大学半工半读。其间得到Georg Georgson教授应允学习造园学,并指定助教Anderson 小姐用英语辅导。这期间,他一边学习,一边在花圃工作,夜间还要将在公园绿地参观及测绘记录整理绘图完成作业。在花圃劳动中,熟悉掌握了很多花卉及
树木的习性和栽培技能,取得了宝贵的实践知识。他踏查园林绿地,实际测量记录,更深地掌握设计构思、手法和植物配植与布局的知识,因而心情愉快并很快地就得到Georg Georgson教授的好评。1951年,中国与丹麦建立了大使级外交关系。中国大使馆一成立,余树勋就与使馆取得联系,并利用业余时间,为使馆翻译当地报刊有关新闻评论,收集资料。年底,国家动员留学生回国参加社会主义建设。此时余树勋已基本完成学业,于是立即报名响应。经耿飚同意,取道前苏联西伯利亚回国。在莫斯科停留期间,得以参观大
莫斯科园林建设,浏览了俄罗斯及西伯利亚原始森林及自然风光,收获颇大。年底,余树勋回到了阔别近20 年的新中国首都北京。1952年春,余树勋由教育部安排到武汉大学农学院任副教授,同时还受聘担任新建的武昌东湖风景区设计室主任。1957 年调至北京林学院任园林工程教研室主任。1960年国家建设部在武汉建立城市建设学院,余树勋调至该院园林系任副系主任;1964年该院撤销改为中专。应北京植物园主任俞德浚教授之邀,调至中科院植物所北京植物园从事园林科研及建园工作,直至1987年春离休。离休后仍潜心于植物园的建设与花卉、观赏树木等的研究。