程俱生于科名鼎盛世家，伯祖父程宿是北宋端拱元年（988）狀元，，祖父程迪是宋仁宗慶歷二年（1042）榜眼，父親程天民是熙寧六年（1073）進士。母親是尚書左丞鄧潤甫的女兒。9歲喪父，隨母寓外祖父家，從小飽讀詩書，遍覽經史。

　　哲宗紹圣四年（1097），以外祖父鄧潤甫恩蔭入仕，補吳江縣（今屬江蘇）主簿，監舒州太湖（今屬安徽）鹽場，建中靖國元年（1101）因上疏觸怒當局被黜。徽宗政和元年（1111），起用為泗州臨淮縣（故址已淪入洪澤湖中）令。

　　宣和二年（1120），賜上舍上第。三年，任禮部員外郎，以病告歸。南宋建炎三年（1129）起用，以太常少卿知秀州。十二月金兵南渡占據臨安，攻陷崇德、海鹽等縣，馳檄誘降。程俱率部守華亭，留兵馬都監守城。

　　紹興元年（1131），任少監，奏修日歷。搜集三館舊聞輯《麟臺故事》呈朝廷，升任中書舍人兼侍講。曾奏言：“國家之患，在于論事者不敢盡情，當事者不敢任責。……今言不合則見排于當時，事不諧則追咎于始議。故雖有智如陳平，不敢以金帛行離間之計；勇如相如，不敢全玉璧以抗強秦；通財如劉晏，不敢理財使軍食充裕。使人人不敢當事，不敢盡謀，則艱危之時，誰與圖回而恢復?”切中時弊。

　　紹興六年，任集賢殿修撰、徽猷閣待制，在宮內敢于提出一些批評和建議，“不安于心者必反復言之，無所畏避。”他這種為人耿直的精神，為朝中正直官員所贊賞。晚年累官至朝議大夫，賜封信安開國伯，食邑900戶。雖然身患嚴重的風濕病，行動不便，但仍勤勤懇懇、治文治史，整理朝廷文書典籍。

　　紹興九年，秦檜薦領史事兼任萬壽觀提舉、實錄院修撰，并免朝參。程俱諳秦檜為人，知其意在籠絡，力辭不受，告歸，卒年67歲。