等到王世充与李密在城外决战，程咬金率领内马军，与李密一同于北邙山上扎营，单雄信率领外马军，于偃师城北扎营。王世充袭击单雄信营垒，李密派遣程咬金与裴行俨前去救援。裴行俨率先驱马奔向敌军，被飞箭射中，摔到地上。程咬金驰马救援，连杀数人，王世充军队后退，于是抱起裴行俨再次骑上马回奔。被王世充骑兵追赶，追兵用槊刺伤程咬金，程咬金转过身去折断其槊，又斩杀追兵，方才与裴行俨免于此难。

后来李密失败，王世充俘虏（得到）了程咬金，王世充对待他很是优厚。武德二年，程咬金对秦叔宝说：“王世充才识风度浅薄狭隘，却爱乱说，喜欢赌咒发誓，这不过是老巫婆而已，哪里是拨乱反正的君主！”王世充在九曲与唐军交战，程知节带兵在阵上，与秦叔宝等在马上向王世充行礼，说道：“我等身受您的特别优待，总想报恩效力。但您性情猜忌，身旁又多煽动蛊惑之人，不是我等托身之处，如今恭敬请求从此分别。”于是骑上马与左右数十人前来降唐，王世充害怕，不敢追赶。李渊授予他秦王府左三统军，程咬金击败宋金刚，擒获窦建德，使王世充投降，同领左一马军总管。每逢出征举旗先登，因屡建战功被封为宿国公。

武德七年，太子李建成忌恨他，向唐高祖李渊进谗言陷害他，派他出任康州刺史。程咬金告知李世民说：“大王左膀右臂被除掉，保全恐怕不能长久。知节在死的时候也不离开大王，希望大王快些保全自己。”六月四日，跟随李世民讨伐李建成、李元吉。玄武门之变后，授予他太子右卫率，升任右武卫大将军，赐给食封七百户。

唐太宗贞观年间，历任泸州都督、左领军大将军等职。与长孙无忌等人暂时带领刺史之职，改封为卢国公，授普州刺史。十七年，又转为左屯卫大将军，检校北门屯兵事宜，加封镇军大将军。高宗永徽六年，知节迁左卫大将军。显庆二年，授葱山（葱岭）道行军大总管来征讨西突厥沙钵罗可汗（阿史那贺鲁）。军队驻扎在怛笃城，有数千家胡人打开城门出来投降，程知节（程咬金）杀戮全城的人而后离去，贺鲁于是立即逃得远远的。大军回师之后，知节因罪被免官。不久，授为岐州（治所今陕西凤翔）刺史。程知节上表请求归养，朝廷许之。麟德二年病逝，赠骠骑大将军、益州大都督，陪葬在太宗昭陵。