본관은 청풍(淸風). 자는 사중(士重), 호는 사촌(沙村). 광주(廣州) 출신. 할아버지는 우참찬 김간(金榦)이고, 아버지는 김태로(金泰魯)이며, 어머니는 강석하(姜錫夏)의 딸이다. 손자가 예조참의를 지낸 김회연(金會淵)이다.

1714년(숙종 40) 사마양시에 합격하고 성균관 유생이 되었다.

1716년에 동료 유생 80여 인과 함께 스승인 송시열(宋時烈)을 배반하면서 당여를 이끌고 소론(少論)의 파당(派黨)을 만든 윤증(尹拯)의 반도덕적인 죄를 상소하여 규탄하였다. 1722년(경종 2) 영소전참봉(永昭殿參奉)이 되고, 1726년(영조 2)에 의금부도사가 되었다.

그 해에 알성 문과에 장원으로 급제하여 전적(典籍)이 되었다. 그 뒤 승지·경연참찬관(經筵參贊官)을 거쳐, 1730년에 바카라 공식간이 되었다. 그 해에 영조가 당쟁의 폐단을 없애기 위하여 선포한 탕평책(蕩平策)에 반대하다가 왕의 노여움을 사 위도(蝟島)로 유배되었다.

2년 후 풀려나와 1738년에 다시 바카라 공식간에 기용되었다. 1742년 경상도관찰사에 이어 정주목사로 임명되었으나 부임 도중 죽었다. 저서로 『사촌집(沙村集)』이 있다.