대구 출신의 김 내정자는 서울대 법대를 졸업하고 사법연수원을 16기로 수료한 뒤 1987년 대구지법에 판사로 임용됐다. 판사로 3년을 일한 김 내정자는 1990년 검찰로 자리를 옮겼다.
검사가 된 김 내정자는 출세 가도를 달렸다. 대검 중수3과장과 인천지검 2차장 검사, 서울중앙지검 3차장 등 주요 보직을 거치고 법무부 기조실장으로 검사장 승진했다.
이후 청주지검장, 법무부 범죄예방정책국장, 서울남부지검장을 거쳐 2012년 7월 수원지검장으로 자리를 옮겼다. 그해 이석기 옛 통합진보당 의원이 연루된 내란음모 사건이 터졌고 이 사건을 수원지검에서 맡았다.
내란음모 사건이 1심에서 유죄로 인정됐고, 김 내정자는 수사와 공판유지를 성공적으로 지휘한 공로를 인정받아 서울중앙지검장(고검장)으로 영전했다. 대법원이 올해 초 내란음모에 유죄를 확정했고, 김 내정자는 대검 차장에 올랐다.
김 내정자가 김진태 총장의 뒤를 이어 41대 검찰총장에 임명되면 검찰은 역대 세 번째로 판사 출신 법조인을 조직의 수장으로 맡게 된다.
4대 한격만 총장(1952~1955년)이 대법관 출신이고 5대 민복기 총장(1955~1956년·5~6대 대법원장)이 판사출신으로 검찰총장을 지낸 바 있다.
다만, 해방 이후 법조인이 부족해 판사와 검사 간 교류가 자유로웠던 점에 비춰 볼때 김 후보자는 사실상 역대 최초 판사 출신 검찰총장이라는 게 법조계 안팎의 시각이다.