温彦博是大雅的次弟，自幼聪慧，颇涉文史，甚有口辩。其父职辈如薛道衡、李纲等都是一代名士，见其兄弟三人，都叹称异才，不难博取卿相。隋文帝开皇末年（公元600年），秦孝王俊爱其才，推荐于文帝，任彦博为州牧，旋授文林郎，直内史省，转通直译者。隋末大乱，称叛于幽州的总管罗艺，引为司马，罗艺以幽州归唐，实彦博促成之功居多，因受命任幽州都督府长史，旋征为中书舍人，徙中书侍郎，封西河郡公，与兄大雅同为高祖办理机要文书，正温氏春风得意时也。

其时高丽派使臣至唐，贡献方物。高祖以国家名义初立，四方尚未平静，不欲以上国自居，使高丽生变，因对群臣说：“名实之间，理须相副，高丽称臣于隋，终拒炀帝，此亦何臣之有，朕敬于万物，不欲骄贵，但据土宇，务共安人，何必令其称臣，以自尊大。可即为诏，述朕此怀也。”以隋之强大，而高丽敢于相抗，李唐初立，遣使贡物，这分明是探听虚实而来，高祖懂得他的意思，所以不以上国自居，以免引起麻烦。可是温彦博不作如此想，他说：“辽东之地，周为箕子之国，汉家之玄菟郡耳。魏晋已前，近在提封之内，不可许以不臣。若与高丽抗礼，则四夷何以瞩仰?且中国之于夷狄，犹太阳之比列星，理无降尊，俯同夷貊。”温彦博认为唐必统一全国而为诸夷之长，此时极不能自贬地位，以免将来难于处理。高祖对于彦博的意见，立即接受。

突厥南犯，高祖命右卫大将军张瑾为并州道行军总管，以温彦博为行军长史，以拒突厥。两军相遇于太谷，唐军败，彦博被突厥所俘。突厥酋长颉利以其为唐的近臣，必知唐军的虚实，迫问其兵马多少?彦博矢口不言。颉利怒，迁彦博于阴山苦寒之地以困之，彦博不为动。

及太宗即位，颉利可汗向唐输款，彦博始得还国，太宗以雍州治中任之，未几转检校吏部侍郎。彦博在任内对人事之浮冗者，多所淘汰，但被退者不服彦博之所为，相与争论于朝堂，嚣讼盈庭，彦博逞其才辩，绝不让步，终日喧攘，以致被识者所嗤，亦足见彦博处事之认真。因此，得任中书侍郎兼太子右庶子。贞观二年（公元628年），迁御史大夫，仍检校中书侍郎事如故。

彦博之长于舌辩，对太宗之接待外来使节，颇多贡献。每有外使入朝，太宗必以彦博为代表，问他们国内的风俗习惯等，口若悬河，声韵高朗，闻于殿庭，而其举止雍容，使观者为之拭目。中国泱泱大国之风，无形中毕露于词色，为国家争得不少的荣誉。贞观四年，迁中书令，爵封虞国公。

突厥来降，太宗下诏，令群臣议安边之术。朝士议论纷纷，多称突厥恃强，扰乱中国久矣，今天实丧之，穷来归我，本非慕义之心，因其归命，分其部落，俘之河南，散属州县，各使耕田，变其风俗，百万胡虏，可得化而为汉，则中国有加户之利，塞北常空矣。他们的主张，大体上分为三点： 其一，把他们分置于河南州县，使塞北常空；其二，百万之众，分散各地，使他们声气难通；其三，改变他们的游牧生产为农业生产，使逐渐与汉人相融合。这些主张，除“使塞北常空”一点为空想外，其余也有他们的道理。所可虑者，要使这些游牧民族与农业民族融和成为不分彼此的一家，非经三百年左右长时间的政治安定不可，否则又是一次五胡乱华的局面，势难避免了。我们且听温彦博与众不同的意见。他说：汉建武时置降匈奴于五原塞下，全其部落，得为捍薮，又不离其土俗，因而抚之，一则实空虚之地，二则示无猜之心。若遣向西南，则乖物性，故非含育之道也。（《旧唐书》卷六十一《温彦博传》）他是主张把整个的投降突厥，都置于河南地，这也是一个权宜之计。太宗则从温彦博之议。但南入长安的突厥人且近万家，魏徵等建议迁徙出都，彦博竭力反对，争论数年不决。

贞观十年，迁尚书右仆射，翌年卒，春秋六十有四。太宗闻耗，哀悼至深。彦博对于国家大事，负责尽职，可谓尽其全力，利害所在，知无不言，言无不尽，太宗也很能欣赏他的赤忱，采纳他的嘉言。他看到彦博精神不济者已有两年，但是国家正值用人之际，需要像彦博这样忠于职守的人来办事，所以始终没有给他休息的机会，以致缩短了他的寿命，所以太宗对他的去世，有十二分的歉意。温彦博感人最深的行为是公而忘私。他自从担任尚书右仆射以后，即谢绝宾客，悉心公务，绝不顾虑家计。他家本非富有，彦博兄弟久任机要，一本至公，绝不营私肥己，以致彦博逝世后，家中连正寝都没有，只好殡于别室。太宗对于他的清廉，十分激赏，特命有司为造堂屋，以便饰终，追赠特进，以“恭”谥之，并命陪葬昭陵。长子振，少有雅望，以父丧哀毁过甚而卒。次子挺，尚高祖女千金公主，官至延州刺史，唐室报温氏者亦称至厚了。