O njegovi mladosti pripovedujejo, da je bila zelo srečna. Doma je bil nekje v Palestini (rodil se je pred letom 579). Priimek Klimak ima po svojem spisu s tem naslovom, kar pomeni Lestev. V njem je opisoval v podobi lestvice, ki jo je videl očak Jakob, kako se člo­vek­ v duhovnem življenju vzpenja kot po lestvici z zemlje proti nebesom.

Že v mladih letih so mu rekli Sholastik, kar je takrat pomenilo v umetnosti in znanosti izobraženega človeka. Imenujejo ga tudi Sinajskega, ker je bil nekaj časa predstojnik samostana na Sinajski gori. Šestnajstleten je stopil v strog samostan v Aleksandriji, kjer se je pod vodstvom meniha Martirija vadil v ponižnosti in pokorščini. Potem je odšel v samotno puščavo. Razloček med boji, ki jih mora vojskovati menih v samostanu, in puščavnik v samoti, je takole označil v imenovanem spisu:

»Menih se mora vojskovati s skrbmi svojega okolja, puščavnik pa s silami večnosti. Menihu pride na pomoč brat, puščavniku pa angel,« pač zato, ker so se puščavniki v popolni samoti morali toliko časa bojevati s hudobnimi duhovi, da so dosegli popolno duhovno umirjenost in trajno zbranost v Bogu. Sam pove, kako trd je ta boj: »Menihi se bojujejo proti otožnosti (za sveto veselje), puščavniki pa zoper obup (za brezmejno zaupanje v Boga).«

Okoli leta 639 so prišli odposlanci samostana Raith na Sinajski gori in mu sporočili, da so ga tam izbrali za opata. Janez se je najprej va­bila ustrašil, končno pa je prosilcem le ustregel in odšel na Sinaj. Tu je čez deset let 30. marca umrl. Na ta dan tudi goduje.