耶律楚材在1190年7月24日生于燕京，他出身于汉化契丹贵族，是辽太祖耶律阿保机的九世孙和金朝尚书右丞耶律履的儿子。在1191年6月，耶律楚材时年两岁，他的父亲耶律履就去世了，从小就跟随这母亲杨氏定居义州弘政，而且还受到了母亲全面的教育，在他十二岁时就进入闾山显州书院学习，十三岁时便开始学习诗书。

由于耶律楚材的祖父起他们家世代都有功于金朝，所以经常居住在燕京。当时的燕京有着深厚的汉文化的基础，这使得耶律氏世代受到汉文化熏陶，形成了读书知礼的家风。而且耶律楚材从小就受到了儒家思想的熏陶，他的理想是按照儒家的理念来治理天下。耶律楚材秉承家族传统，自幼学习汉籍，精通汉文。

在1206年根据金朝制度，宰相的儿子能够被赐予省掾之职，由于耶律楚材没有到任。想要参与科举考试，金章宗询问参与考试的人员关于审案的多件事。当时有十七人参与考试，但只有耶律楚材的回答为优等，于是被征召授予了掾职，后来任为了地方官员。在1214年，金宣宗南迁到汴京，耶律楚材的兄长耶律辨才和耶律善才都跟随在皇帝旁边。而耶律楚材则留在中都。

在公元1215年，蒙古军攻占燕京，成吉思汗得知他才华横溢和满腹经纶，便派人向他询问治国大计。后来在1219年，耶律楚材跟随成吉思汗西征，经常以征伐、治国和安民之道屡立奇功，备受成吉思汗的赏识。在1226年又随着成吉思汗征讨西夏，谏言禁止州郡官吏擅自征发杀戮，使得贪污和暴力的事件有所减少。

后来当窝阔台汗登基后，耶律楚材提倡建立朝仪，劝亲王察合台等人行君臣之礼，以尊汗权。从此更日益受到重用，被誉为了“社稷之臣”。初期执掌中原地区的赋税事宜，建议颁行《便宜一十八事》，设立州郡长官，使军民分治，还制定了初步法令，反对改汉地为牧场，而且后来还建立了赋税制度，设置燕京等处十路征收课税所。

在1231年，耶律楚材积极恢复文治，逐步实施“以儒治国”的方案，这也使得新兴的蒙古贵族逐渐放弃了落后的游牧生活方式，采用汉族以儒教为中心的传统思想和制度来治理中原。使战争不断的乱世转为了和平的盛世，还使得先进的中原农业文明得以保存和继续发展，为后来忽必烈建立的元朝奠定了基础。

耶律楚材还主张用孔孟之道作为治国之民的原则，还用儒士来担任各级官吏。为蒙古国的发展做出了重要贡献，促进了蒙古贵族接受中国传统文化的首者。当时蒙古人为了纪念耶律楚材的功劳，专门为他修建了祭祠，至今还保存在北京颐和园里。耶律楚材任事近三十年，可惜到后来皇后脱列哥那称制时，因屡弹劾皇后宠信之奥都剌合蛮，逐渐被排挤。后来在1244年6月20日耶律楚材悲愤而死。按照遗愿将他的遗体运回燕京故里，安葬在耶律楚材生前非常眷恋的玉泉山下的瓮山泊之滨，与他去世的夫人一起合葬。