조선의 문신. 자는 경희(景羲). 부사공(휘 天順)의 후손으로  철원군 어운면 갈원동 하갈리에서 안동김씨인 아버지 김지사(金地四)의 장남으로 출생하였다. 14세에 전염병으로 양친을 잃고 동생 응해(應海)와 함께 자라면서 사냥을 즐겨 맨손과 단검으로 범과 돼지를 잡았다고 한다. 키가 8척에 힘이 세어 장사로 알려졌다. 1604년(선조37) 25세에 무과(武科)에 급제, 말직에서 전전하다가 병조판서 박승종(朴承宗)의 추천으로 선전관(宣傳官)이 되었으나 이듬해 파직되었다가 1608년 박승종이 전라도 관찰사가 되자 그의 비장(裨將)으로 기용되었다. 31세 때 선천군수를 하면서 청렴하게 백성을 다스렸다. 1610년 다시 선전관, 이어 경원판관(慶源判官)·도총부경력(都摠府經歷)·삼수군수(三水郡守)·북우후(北虞候) 등을 역임했다.  

광해군 10년(1618)에 만주에서 누루하치가 후금국을 세우고 명나라를 침범하자 명에서는 건주위를 공격하기 위하여 조선에 원군을 청하였다. kimeungha는 이때 명나라의 원군으로 조방장(助防將)이 되어 부원수(副元帥) 김경서(金景瑞) 휘하에 들어갔다.  

이듬해 도원수 강홍립(姜弘立)을 따라 좌영장(左營將)이 되어 군사를 이끌고 압록강 (鴨綠江)을 건넜다. 3월 명나라 도독(都督) 유정(劉綎)이 명군 3만을 거느리고 부차령(富 車嶺)에서 패전하여 자결하자 조선군(朝鮮軍)은 6만의 적군과 대전케 되었다. 그런데 전세가 불리해지자 우영장 이일원(李一元)은 달아났고, 그는 3천의 군사를 거느리고 고군 분투 끝에 전사하고 휘하 군사는 괴멸했다. 1620년(광해군12) 명나라 신종(神宗)에 의해 요동백(遼東伯)으로 추봉(追封)됨과 동시에 처자에게는 은(銀)이 하사되었고 조선에서는 영의정을 추증하였다.

묘는 경기도 철원군 동송읍(東松邑) 하갈리(下葛里) 山(軍糧洞) 에 있다.

철원(鐵原)의 포충사(褒忠謝), 종성(鍾城)의 행영사(行營祠), 경원(慶源)의 충렬사(忠烈 祠), 선천(宣川)의 의열사(義烈祠)에 제향(祭享)되었었는데 지금은 그의 고향인 철원 포충사에서 매년 음력 2월과 8월의 중정일에는 철원의 유림이 주관하는 제향을 올리고 있다. 그의 묘정비는 송시열이 지었고, 사헌부 지평인 박태웅이 글씨를, 영의정 김수항이 제자를 썼으며, 강원도 유형문화재 제105호이다. 영의정에 추증(追贈) 되었고, 시호는 충무(忠武)이다.

1621년 9월에 훈련도감을 시켜 김응하의 행적을 적은 <충렬록>을 간행하였다. 그의 행장록이 남아 전한다.

(*후손들이 안동김씨에서 갈리어 철원김씨의 시조로 삼았다고도 하나(철원군청 홈페이지 자료 기록내용) 이는 잘못이다)