1435년 서울 성균관 부근 사저의 하급 무반 가문에서 태어났다. 일세를 풍미한 명문장가답게 태어난 지 여덟 달 만에 글을 깨치고, 세 살 되던 해에 시를 지었으며, 다섯 살에는 이웃에 살던 수찬 이계전의 문하에서 [중용]과 [대학]을 배웠는데, 이계전의 문하에 들어갔다는 것은 곧 당대의 최고 학맥과 인연을 맺었다는 것을 뜻한다. 이렇듯 어릴 적부터 신동으로 이름이 높았던 그의 소문을 들은 세종이 직접 불러 시험을 하고는 감탄해 상을 내리기도 했다. 1449년 어머니가 세상을 뜬 후 삼년상을 치르고 조계산 송광사에 머물면서, 거기에 석장[錫杖]을 쉬고 있던 준상인에게 불법[佛法]을 배웠다. 인간사에 관한 의문이 많았을 시기였기에 불교 교리를 깊이 받아들였고, 훗날 준상인에게 주는 시를 무려 20수나 연작하였다. 송광사에 잠시 머물다 서울로 돌아온 후 남효례의 딸을 아내로 맞았다.
1453년 과거에 낙방하고 삼각산 중흥사로 공부를 하러 갔다가 세조의 왕위 찬탈 소식을 전해 듣고는 책을 불사르고 방랑길에 올랐다. 1456년 6월에 성삼문 등 많은 신하들이 단종의 복위를 꾀하다 사형을 당하고, 그 시신들이 저잣거리에 널브러져 있었으나 아무도 수습할 엄두를 못 내던 와중에 김시습이 그것들을 수습하여 노량진에 묻고 작은 돌로 묘표를 대신했다는 기록이 [연려실기술]에 남아 있다. 이는 전국 각지를 유람하던 때의 일로 그 시기에 [탕유관서록][1458], [탕유관동록][1460], [탕유호남록][1463] 등을 정리하여 그 후지를 썼다.
1465년 책을 싸들고 금오산에 들어가 금오산실을 복축하고 칠 년 간 머물렀는데 바로 그 무렵인 1470년 즈음에 [금오신화]를 지은 것으로 추정된다. 금오산실에서 육칠 년을 고민과 병마에 쌓인 채 세월을 보내던 중 중앙에서 성종이 숭유문치를 표방하여 널리 인재를 구하였고, 김시습은 서울로부터 청을 받고 서울로 올라와 새 조정에서 벼슬을 하겠다는 생각으로 육경을 다시 익혔다. 그러다 1483년 폐비 윤씨 사건으로 정국이 혼란하자 두타의 모습으로 관동으로 떠나 산수를 돌아다니며 글을 짓는 생활을 다시 하게 된다. 1493년 무량사에서 판각 간행한 [묘법연화경]의 발문을 뒤 '췌세옹 김열경'이라 서명하고는 며칠 지나지 않아 병으로 세상을 떠났다. 사후에는 유언대로 절 근처에 매장되었고, 1782년 이조판서에 추증, 영월의 육신사에 배향되었다.