贞观十七年（643年），皇太子李承乾与汉王李元昌、驸马都尉杜荷、兵部尚书侯君集等人勾结企图谋反，李世民得知后，将太子李承乾幽禁在了别室，命李勣和司徒长孙无忌、司空房玄龄、特进萧瑀等人共同审问此案，李世民在与李勣、长孙无忌、房玄龄等商议后，决定册立晋王李治为太子。李世民对李勣说：“朕的儿子刚当上太子，你原来是他的长史，如今朕把宫中的事情委托给你，所以有这样的任命。虽然委屈了你的阶位、资历，希望你不要见怪啊。”李勣答应了。

贞观十八年（644年）二月，李世民认为高句丽大莫离支渊盖苏文弑君残民、侵略邻国新罗，没有礼数，准备发兵征讨，谏议大夫褚遂良提出反对意见，表示不应该远征高句丽，李勣则说：“当年薛延陀进犯，陛下想要发兵讨伐，因为魏徵谏阻而作罢，因此直到今日薛延陀仍为祸患，如果那时陛下采用主战的策略，发兵征讨薛延陀，那么今天北疆就可以安宁了。”李世民听了决定亲征高句丽。李世民任命刑部尚书张亮为平壤道行军大总管，率水军从莱州渡海进攻平壤，李勣为辽东道行军大总管，两军协力并进。贞观十九年（645年）二月，李世民亲征高句丽，李勣从柳城进军，大张声势，表面上作出要通过怀远镇的假象，暗中却派部队北上，出其不意，向高句丽发起进攻，又从通定渡过辽水（辽河），抵达玄菟，高句丽大为惊恐，都闭门自守，不敢出战。此时，辽东道副大总管、江夏王李道宗及营州都督张俭也相继到达，张俭更是长驱直入达到建安城，大败高句丽军队，李勣和李道宗也一起合攻盖牟城（今辽宁抚顺），成功攻破城池，俘获百姓两万多人、粮食十多万石。

随后，李勣抵进辽东城（今辽阳市区辽阳老城东北隅）下，李道宗率四千骑兵，准备迎击高句丽的四万援军，众将都认为兵力悬殊太大，不能开展，但李勣却认为可以开战，在交战中，因行军总管张君乂（yì）率先退走，致使唐军处于不利的境地，李道宗收拢残军，登上高处，发现高句丽军队阵型混乱，于是纵兵出击，李勣也引军助战，大破高句丽，斩首敌军一千多人。李勣围攻辽东十二天后，李世民抵达了辽东前线，亲自率领精兵会师，最终攻陷辽东，唐军共杀敌一万余人，又俘获高句丽军一万多人、百姓四万多口。李勣又转攻白岩城（今辽宁省岫岩）西南，迫使城主归降，之后，李勣围攻安市城（今辽宁海城东南营城子），李世民设计将高句丽援军引诱到了安市城东南，唐军则依山为阵，又命李勣率步骑兵一万五千多名，在西岭布阵，长孙无忌率奇兵一万多人从山北穿越峡谷，冲击高句丽军阵后方，李世民亲率四千步、骑兵，偃旗息鼓，登上北山，高句丽大将高延寿中计大败，高句丽军被斩首两万多人，安市城之战后，高句丽举国震惊，以至于黄城、银城等地的军民都弃城而逃，数百里内杳无人烟。唐军回师继续猛攻安市城，守军凭坚城固守，安市百姓听说李勣奏请李世民，功克城池之后坑杀城里全城男女老幼的消息后，非常害怕，都全力支援守城的士兵，致使唐军久攻不下，最终因为辽东地区气候转寒，草枯水冻，军队及战马难以久留，所剩粮草不多等原因，李世民决定下令班师，李勣与李道宗率步骑军四万殿后，唐军回师后，朝廷封了李勣的一个儿子为郡公。

贞观二十年（646年）正月，夏州都督乔师望、右领军大将军执失思力大破薛延陀多弥可汗，薛延陀内部发生动乱，多弥可汗随后又遭到回纥等部落的攻击，再次落败。六月，李世民也趁机派军进攻薛延陀，薛延陀诸部大为惊恐，人心不定，多弥可汗逃向阿史德时健部落，后来被回纥杀死。薛延陀部余众七万多人向西溃逃，拥立真珠可汗之侄咄摩支为伊特勿失可汗，伊特勿失派遣使者上书唐朝，请求在郁督军山（又作乌德鞬山，即今蒙古国境内杭爱山东支）北麓安营扎寨，放牧生活，李世民派李勣和兵部尚书崔敦礼前往安抚，李勣抵达郁督军山后，薛延陀部落首领梯真达官率部下投降，咄摩支往向南逃窜到荒谷之中，李勣派通事舍人萧嗣业复位他的部属，咄摩支随即投降，被遣送到了长安。此时，薛延陀的残余部份势力仍摇摆不定，李勣纵兵追击，前后斩首，薛延陀部五千多人，俘获三万多人。

贞观二十二年（648年），李勣转任太常卿，仍然担任同中书门下三品，十天后，又被拜为太子詹事。贞观二十三年（649年），李世民卧病在床时，对太子李治说：“朕的时日不长了，你对李勣没有施予过什么恩惠，朕现在准备贬他为外官，朕死后，你应当授给他仆射的职务，这样一来，他就蒙受了你的恩惠，以后就愿意尽力的为你效忠了啊。”于是，李世民派李勣出任叠州都督，李治即位当月，又召李勣入朝，拜为洛州刺史，接着又加封开府仪同三司，命李勣任同中书门下，参与执掌机要事务，同年，又册拜李勣为尚书左仆射。

永徽元年（650年），李勣上表请求免掉自己仆射的职务，李治还是命他以开府仪同三司之职执掌政事。永徽六年（655年），李治想要废掉王皇后，立昭仪武氏（武则天）为皇后，怕朝中的大臣们反对，便召李勣、长孙无忌、于志宁、褚遂良等顾命大臣前来一起商议，李勣觉得此举不妥，但心里知道李治的意思，便称病没有前去，褚遂良坚决表示反对“废王立武”。事后，李治又暗中再次询问李勣说：“朕打算立武昭仪为皇后，但褚遂良固执己见，不让朕这么做，褚遂良是顾命大臣，这件事应该怎么应对呢？”李勣回答说：“这是陛下的家事，何必要问外人！”李治从此坚定了“废王立武”的决心，而李勣也因此得到了李治和武皇后的信任。其实在改立皇后这件事上，当时反对唐高宗李治的人占绝大多数，都认为此举不妥，不利于朝政稳定，褚遂良等老臣们以江山社稷为重，甚至就算得罪皇帝李治也坚决不同意这件事，但李勣在这件事上躲躲藏藏、含糊其辞，虽然赢得了皇帝的信任，但也为日后的武则天专政埋下了伏笔。

显庆三年（658年），李勣跟随李治前往东都洛阳，但他在路上患了重病，唐高宗李治亲自前去慰问。麟德二年（665年），李治东封泰山，封李勣为封禅大使，随驾前行，途中在滑州住宿，李勣的姐姐很早便开始守寡，住在李勣的旧宅中，武皇后亲临她的住所前去慰问，赏赐衣服物品，封李勣的姐姐为东平郡君，李勣又坠马伤到了脚，唐高宗李治亲自询问伤情，还把自己乘坐的马匹赐给了他。

乾封元年（666年），渊盖苏文病死，他的儿子泉男生继掌国事，泉男生的兄弟泉男建、泉男产趁机发难，驱逐泉男生，泉男生走投无路，投奔了唐朝，恳求唐朝发兵相助，李治先派右骁卫大将军契苾何力为辽东道安抚大使，右金吾卫将军庞同善、营州都督高侃为行军总管，让泉男生之子泉献诚做行军向导，一同进军讨伐高句丽，同年十二月，李治任命李勣为辽东道行军大总管兼安抚大使，司列少常伯郝处俊担任副手，庞同善、契苾何力等一并受李勣统领。乾封二年（667年）九月，李勣率军攻破被称为“高句丽西边要害”的新城，并趁势挥军继续进击，接连攻下十六座城池，泉男建派兵袭击尚在新城的庞同善、高侃军队，但被左武卫将军薛仁贵击败，高侃进军到达金山后，交战不利，高句丽趁胜展开反攻，薛仁贵引兵当面迎击，大破高句丽军队，斩首敌军五万多人，攻陷南苏（今辽宁抚顺东苏子河与浑河交流处）、木底（今辽宁新宾西木奇镇）、苍岩（今吉林集安西境）三座城池，和泉男生会师。

总章元年（668年）二月，薛仁贵又攻陷高句丽重镇扶余城（今吉林四平），此后，扶余川等四十余个城池陆续投降，泉男建又派兵五万救援扶余城，在薛贺水与李勣遭遇，李勣合军交战，大败高句丽军，斩杀三万余人，并乘胜攻取大行城（今辽宁丹东西南娘娘城），与唐军各部会合，李勣率唐军进军到鸭绿栅时，唐军再次奋力击破高句丽军，追击二百多里，攻陷辰夷城，高句丽各部都惊恐不安，许多人离城逃走，前来向唐军投降的人络绎不绝，契苾何力率军先抵达平壤城下，李勣随即领兵来到，唐军对平壤形成了合围之势。

经过一个多月的战斗，高句丽王高藏派泉男产等人持白幡向唐军投降，李勣以礼相待，而泉男建则仍然选择闭门抵抗，不久后，僧人信诚开门接纳唐军，李勣趁势进攻，一举攻陷平壤，成功擒获泉男建，至此，高句丽宣告灭亡。战后，唐朝设安东都护府统管高句丽的属地。李勣从高句丽凯旋归来后，唐高宗李治先让李勣将高藏和泉男建等人押送昭陵（唐太宗陵寝）举行隆重的献俘仪式，献俘礼仪结束后，李勣整理军队进入长安，并在太庙再次举行献俘仪式，唐高宗李治亲临含元殿，举行了受俘仪式，又在南郊祭天，宣告平定高句丽，李勣担任亚献。

总章二年（669年），李勣被加封为太子太师，这一年，李勣开始卧病，李治封李勣的弟弟、晋州刺史李弼为司卫正卿，让他在京城照看自己的兄长。同年十二月，一代名将李勣病逝，享年七十六岁，唐高宗李治闻讯后悲哭不已，下令辍朝七日，下葬的当天，李治亲临未央宫故城，登上宫楼为他送葬，望着李勣的灵车痛哭失声，太子李弘跟随李治送葬，也悲痛到极点，使随从都深受感动，李治命令百官送葬到未央旧城西北，建造的李勣的坟依西汉名将卫青、霍去病的墓地为准，仿照阴山、铁山及乌德鞬山筑建，以此表彰李勣击败突厥、薛延陀的功劳。

李勣逝世后，他的故事还是接连不断的在民间广为流传。光宅元年（684年），李勣的孙子李敬业起兵讨伐武则天，武则天大怒，削去了已故的李勣等人的官爵，并将李勣的坟地掘墓砍棺，去掉“李”姓，恢复他本来的姓氏徐氏，垂拱二年（686年）正月，李勣与开府仪同三司张行成、扬州大都督许敬宗、尚书右仆射马周一同配享唐高宗庙廷，神龙元年（705年），唐中宗李显复位，下诏恢复了李勣的官爵，并重新为他起坟改葬，上元元年（760年），李勣成为武成王庙中配享的十位历代名将之一，同时代被列入“武庙十哲”的只有卫国公李靖一人，李靖在凌烟阁二十四功臣中的排名相对靠后，其实按照他所创立的功勋和所取得成就远不止这个排名，原因是在李世民去世后，李靖追随唐高宗李治又立下了许多不朽的功勋，如平定高句丽等，所谓的凌烟阁二十四功臣排名仅仅是在唐太宗李世民在世期间的排名，但李靖的名号和功勋远不止此。