김여석은 본관이 광산(光山)으로 자는 은경(殷卿)이며 시호는 충목(忠穆)이다.
점필재(償畢齋) 김종직(金宗直)에게 학문을 닦고 21세 때 사마시(司馬試)에 합격하였다.
그 해 세조(世祖)의 친책(親策)에 나아가 2등으로 합격하여 임금의 총애와 예우를 받았는데, 좌찬성(左贊成) 최항(崔恒)에게 명하여 『무기욕(毋嗜欲) 무기음(毋嗜飮) 무교긍(毋驕矜)；욕망을 즐기지 말며, 술 마시기를 즐기지 말며, 교만하고 자랑하지 말라』라는 9자를 쓰게 하고 어압(御押)하여 하사(下陽)하였다.
명(明)나라 헌종의 명령으로 군사를 일으켜 건주위(建州衛)를 공격할 때, 그는 윤필상(尹弼商)의 종사관(從事官)으로 출전하여 군자보급을 맡아 민첩하고 임기응변으로 행동하며 맡은 바 임무를 소홀함 없이 수행하고 개선하였다.
이에 명나라 헌종(憲宗)이 가상(嘉尙)하게 여기고 포상하였다. 그는 예조판서(禮曹判書)를 거쳐 이조판서(更曹判書)에 올랐다. 허백(虛白) 홍귀달(洪貴達)이 신도비명(神道碑銘)을 지었다.
순조 13년(1813) 본군(本郡) 도산서원(道山書院)에 제향(蔡享)하였고, 좨주(祭酒) 송래희(宋來熙)가 기문(記文)을 지었다.
그의 묘소가 안성면의 미륵암(彌勒菴)에 있다.