俞德渊自幼在本县社学和兴平书院(后改名又新书院)读书,虽然家境非常贫寒,但没有影响他勤奋刻苦学习的信心。他资质超群,少年时代就能吟诗作画。平罗县至今还流传有他的早慧故事。嘉庆二十二年(公元1817年),他首次进京赶考,就金榜题名,以优异成绩高中进士,被选为翰林院庶吉士。道光初年,出任江苏荆溪(今江苏省宜兴县)、长州(今江苏省吴县)知县。在任间勤政廉洁,秉公办事,明断公案,毫不留情打击地方恶势力,深得民心。得到江苏按察使林则徐的器重,很快就被提升为徐州府(今江苏省徐州市)同知、苏州府(今江苏省苏州市)督粮同知,掌管财粮大权。道光六年(公元1826年),朝廷决定试办海运,这在当时是一桩肥缺,许多官吏到处钻营找门路,激烈争夺这个职位,但上司却让俞德渊这位没有背景、不谋私利的廉吏担此重任。他上任后,尽心尽力、夜以继日筹办公务,亲自立规建章,使部下工作有章可循。就在他紧张创办海运之时,母亲突然病故,便遵照制度返回宁夏守孝。之前,他曾几次想回乡省亲,但逢江苏发生水灾,他只得以治水赈灾为重,将家庭私事置于身后,直到母亲去世也没能见上最后一面,他的内心痛苦万分。朝廷为了安慰他的清廉精神,特对其父母加封了荣誉头衔。道光八年(公元1828年)守孝期满后,为了表彰他以前在治理三江水利和创办海运方面的功绩,先后任命他为常州知府、江宁府(今江苏省南京市)知府、江南盐巡道,所任之处均有政绩,老百姓有口皆碑。
道光十年(公元1830年),朝廷下令整顿两淮盐业,俞德渊起草的意见书得到了新任两江总督陶澍的好评。陶澍就推荐他担任两淮盐运使,统管盐务产运销全盘事宜。朝廷还以他的建议为基础,制定了整改盐业的章程。盐业收入是封建朝廷的财政支柱,两淮盐运使在官民的眼中可谓是“摇钱树”,前任各官都捞取了很大油水。朝廷新任掌管财政的户部尚书想让自己的儿子能得到一个更能捞油水的美差,特地找陶澍替他说情。因为这位大人在朝中位高权重,连总督也不敢驳他的面子,就让俞德渊照顾一下。但俞德渊却说:“美职是给有功有能力的人干的,无功无德之人没有资格担任,我宁愿丢官也不循此私情。” 他虽然丝毫没给自己顶头上司、恩师陶澍的面子,但陶澍反而更认为他是有德的贤良人才。俞德渊虽然身居要职,且为官多年,却两袖清风,家无余财,仍然过着节衣缩食的生活。他还把每年积蓄下的三百两白银捐给家乡平罗县扩建兴平书院,帮助故乡发展教育事业。
道光十五年(公元1835年)冬,两江总督陶澍向皇帝面奏,极力举荐俞德渊可以重用。皇帝听了十分高兴,也对这样勤政为民的好官非常赞许,准备加以提拔重用。但就在这时,俞德渊因生活清苦,加之劳累过度一病不治而逝。他曾任职江南各府、州、县和家乡平罗县的人民,为了纪念这位清官,“皆流涕请祀各属名宦祠”。林则徐亲自为他撰写了墓志铭。朝廷也追授他为中议大夫。灵柩运回平罗县,安葬于头闸堡南昌润渠畔之阳。平罗县还专为他建立祠堂,并把他的名字列入平罗县乡贤祠享祀。
俞德渊博学多才,善理财、通经史,著有《默斋文稿》和《默斋公牍》传世。《平罗纪略》录有其《重修文昌碑记》一文传世。