Tras una fractura en el cuello del fémur, su salud empezó a ser objeto de numerosas especulaciones debido al deterioro físico sufrido y a su avanzada edad, que irán a más hasta 2005. En aquel año tuvo que ser hospitalizado por un síndrome de dificultad respiratoria. Se le realizó una traqueotomía a mediados de marzo. Hacia finales del mismo mes su estado se agravó y entre el 31 de marzo y el 1 de abril sufrió unasepticemia por complicación de una infección de vías urinarias.
Falleció el 2 de abril de 2005 a las 21:37 (hora de Italia). Pocos minutos después, Monseñor Leonardo Sandri anunció la noticia a las personas congregadas en la Plaza de San Pedro y al mundo entero. Los días después de su muerte, algunos periódicos publicaron que su última palabra fue "Amén", sin embargo el Vaticano desmintió esta versión y afirmó que las últimas palabras fueron "Déjenme ir a la casa de mi Padre". La muerte fue comprobada por el cardenal camarlengo Eduardo Martinez Samolo. El Camarlengo comunicó la muerte al cardenal Camillo Ruini, como "Vicario para la Urbe" y el Cardenal-Decano del Colegio Cardenalicio, Joseph Ratzinger, informó oficialmente a todos los Cardenales convocándolos al Cónclave, al declararse la Sede Vacante.
Al ser anunciada su muerte, en medio del rezo del Rosario, el público presente en la Plaza de San Pedro prorrumpió en nutridos aplausos. Las luces de su habitación en el Vaticano se apagaron por un instante para comunicar de esta manera el momento de su fallecimiento, pero luego fueron encendidas nuevamente y así permanecieron.
Su muerte se produjo debido a una septicemia y a un colapso cardiopulmonar irreversible, agravado por su enfermedad de parkinson. Tenía 84 años. En su agonía, le dictó a su secretario, Stanisław Dziwisz, una carta en la que decía:
"Soy feliz, séanlo también ustedes. No quiero lágrimas. Recemos juntos con satisfacción. En la Virgen confío todo felizmente". El portavoz del Papa, Joaquín Navarro Valls afirmó inicialmente que el pontífice, en sus últimos momentos, dedicó unas palabras a la multitud, sobre todo gente joven, reunida en la Plaza de San Pedro (Yo los he buscado y ahora ellos vienen a buscarme, les doy las gracias), haciendo el gesto de la bendición hacia la ventana de sus aposentos, hacia los fieles apostados en la Plaza de San Pedro. Sin embargo, el médico que certificó la muerte ha señalado que el Papa permaneció inconsciente durante los últimos cincuenta minutos de su vida y que, por lo tanto, tales frases tuvo que decirlas al menos una hora antes de su fallecimiento.
Los funerales manifestaron el alto grado de aprecio que sentían por Juan Pablo II, no sólo mandatarios de muchos países, sino también gente de toda condición social. Tuvieron una alta resonancia política por algunos gestos inesperados, como el saludo entre los mandatarios de Israel, Irán y Siria.
