K. Klimavičius augo neturtingų, tačiau tikrų kaimo šviesuolių šeimoje kartu su dar dviem seserimis. Motina buvo jo pirmoji mokytoja, parodžiusi raides iš lenkiško elementoriaus: jį skaitydami raides sudėdavo, o žodžių nesuprasdavo nei motina, nei vaikas. Skaityti, rašyti ir skaičiuoti išmoko pas daraktorių Jurgį Pikūną, o vėliau baigė Krokialaukio valsčiaus mokyklą.

Įsidarbino Simno pašte praktikantu. Kaip teigia pats K. Klimavičius, jis „buvo priverstas ieškoti tarnybos, kuri duotų lėšų mokytis ir pavyti draugus „veiveriečius“. Dirbdamas pašte perskaitydavo visus gaunamus laikraščius ir žurnalus, tarp kurių – ir uždraustą lietuvišką literatūrą.

1908 m., būdamas dvidešimt dviejų, vedė. Tais pačiais metais Marijampolės vyrų gimnazijoje išlaikė egzaminus – tapo liaudies mokytoju. Iki Pirmojo Pasaulinio karo dirbo trejose pradžios mokyklose: Sukažečke (Ščetros vlsč., Augustavo apkrs.), Obšrūtuose (Paežerių vlsč., Vilkaviškio apskr.) ir Liubave (Kalvarijos apsk.).

Buvo griežtai nusistatęs prieš fizines bausmes mokyklose, šia tema parašė ir savo pirmąjį pedagoginį straipsnį „Mokinių tėvams“ į laikraščio „Lietuvos ūkininkas“ priedą „Mokytojas“.

1912 m. vasarą išvyko į Vilnių, Lietuvos mokslo draugijos susirinkimą, taip pat dalyvavo mokytojų organizuotame susirinkime, kuriame kartu su Juozu Damijonaičiu buvo išrinktas sekretoriumi.

Pirmojo Pasaulinio karo metais tarnavo Alytuje Darbo kuopoje, kuri tarp Gardino ir Kauno per Nemuną statė net septynis tiltus. 1915 m. pavasarį sunkiai susirgęs atsidūrė Rusijoje, Petrograde. Vėliau kartu su šeima gyveno Riazanėje, Maskvoje.

1918 m. vasarą grįžo į Lietuvą, pradėjo dirbti Krokininkų pradžios mokyklos vedėju ir iškart įsitraukė į visuomeninę veiklą: Alytaus valsčių atstovų suvažiavime atstovavo Krokialaukio valčių.

1919 m. vasarą sutiko imtis Alytaus vidurinės mokyklos steigimo darbų: surado tinkamas patalpas kareivinėse, rūpinosi baldais, malkomis šildymui ir kt. Direktoriumi dirbo iki 1923 m.  rugpjūčio, kai buvo atleistas dėl ateistinių pažiūrų ir trūkstamos kvalifikacijos. Liko dirbti mokytoju iki 1933 m. 1927-1928 m. išlaikė vidurinės mokyklos mokytojo egzaminą. Dėstė matematiką, algebrą, geometriją, fiziką, gamtą, geografiją.

Nuo 1919 m. dalyvavo mokytojų profesinės sąjungos veikloje, vadovavo Alytaus skyriui. Nuo 1920 m. vadovavo pradinių klasių mokytojų kursams. Buvo aktyvus sprendžiant socialines miesto problemas, dalyvavo įvairių draugijų veikloje. 1934 m. išrinktas į Alytaus miesto tarybą.

K. Klimavičius buvo kairiųjų pažiūrų, laisvamanis, turėjo visuomenės pasitikėjimą ir gerą vardą. Mokėjo esperanto kalbą, susirašinėjo su esperantininkais iš viso pasaulio, priklausė Pasaulinei betaučių sąjungai (Sennacieca asočio tutmonda). Buvo surinkęs didžiulę biblioteką, turėjo net du antspaudus savo knygoms.

Išėjęs į pensiją atsidėjo algebros ir geometrijos vadovėlių rašymui, perteikdamas juose visą savo pedagoginę patirtį. Pirmąjį vadovėlį „Dešimtainių logaritmų knygos penkiais dešimtainiais skaitmenimis“ išleido 1930 m. Kitąmet išleista K. Klimavičiaus knygelė „Galvosūkių pasaulis“ –pirmoji matematikos populiarinimo knyga lietuvių matematinėje literatūroje.

1940 m. K. Klimavičius sugrįžo į pedagoginį darbą ir pradėjo dirbti Alytaus apskrities mokyklų inspektoriumi, o inspektūrą panaikinus – Alytaus apskrities švietimo skyriaus vedėju. Vokiečių okupacijos laikotarpiu pora metų turėjo keletą pamokų gimnazijoje. Karui pasibaigus ėmėsi švietimo organizavimo visoje apskrityje, 1946-1956 m. vadovavo Alytaus mokytojų seminarijai.

K. Klimavičių jo amžininkai prisimena kaip labai šiltą, supratingą vadovą ir mokytoją, gebėjusį susitarti su mokiniais be konfliktų.

Nuotraukoje mokytojas Kazys Klimavičius. Nuotrauka iš Alytaus kraštotyros muziejaus rinkinių