Biskup w imieniu papieża odpowiada za formację liturgiczną i sposób pracy służby liturgicznej w swojej diecezji. Jednym z zadań biskupa jest troska o piękno liturgii. Jako głowa Kościoła diecezjalnego jest punktem odniesienia wszystkich działań zmierzających do pogłębienia formacji liturgicznej
Urodził się 20 sierpnia 1953 r. w Książnicach Wielkich. W 1972 r. wstąpił do Wyższego Seminarium Duchownego w Kielcach. Święcenia prezbiteratu przyjął 11 czerwca 1978 r. w kościele w Kazimierzy Małej z rąk biskupa kieleckiego Jana Jaroszewicza. Jako wikariusz pracował w parafiach w Pińczowie i Bielinach.
W 1981 r. został skierowany na studia specjalistyczne z patrologii w Instytucie Patrystycznym „Augustinianum” przy Uniwersytecie Laterańskim w Rzymie. W 1985 r. uzyskał stopień licencjata, a w 1988 r. obronił doktorat na podstawie pracy pt. „Koncepcja nadziei w interpretacji psalmu 118 św. Ambrożego”.
We wrześniu 1989 r. został mianowany wykładowcą patrologii i języka łacińskiego w Wyższym Seminarium Duchownym w Kielcach, a w grudniu tego samego roku ojcem duchownym alumnów I i II roku, odbywających studia filozoficzne w Skorzeszycach.
W 1996 r. został proboszczem nowo utworzonej parafii pw. św. Józefa w Zagnańsku, pozostając wykładowcą patrologii w seminarium. W czerwcu 1998 r. został rektorem kieleckiego seminarium. Otrzymał honorowy tytuł kapelana Jego Świątobliwości.
18 grudnia 2004 r. papież Jan Paweł II mianował ks. prał. Kazimierza Gurdę biskupem pomocniczym diecezji kieleckiej i biskupem tytularnym Cusira. Sakrę biskupią przyjął 5 lutego 2005 r. w Bazylice Katedralnej w Kielcach z rąk biskupa Kazimierza Ryczana, a współkonsekratorami byli biskup Edward Materski i biskup Marian Florczyk.
16 kwietnia 2014 r. został mianowany przez papieża Franciszka Biskupem Siedleckim. Objął kanonicznie diecezję 23 maja 2014 r., a ingres do Katedry Siedleckiej odbył we wspomnienie NMP Wspomożycielki Wiernych 24 maja 2014 r.
4 marca, w święto św. Kazimierza, patrona Polski i Litwy
Iesu in Te confido (Jezu ufam Tobie)