Babası Çito lakaplı Ahmet Usta, annesi Esma Hanım'dır. 6 yaşındayken ailesiyle Erzurum'a taşındı. Fakir ve yarı açlıkla geçen bir çocukluk yaşadı, 12 yaşındayken yetim kaldı.

Erzurum'da askeri idadiye geçti. Harp Okulu'nu kazandı. Harp Okulu'nu bitirince de Harp Akademisi'nden mezun olup, kur'ada Erzincan'ı çekti.

1909 yılında kolağası rütbesine terfi etti ve Erzurum'daki 7. tümene tayin oldu. 1914 yılında 83. Alay Komutanlığı'na atandı. 1908'deki Dersim Harekâtı'na katıldı. Birinci Dünya Savaşı sırasında Köprüköy muharebeleri ve Sarıkamış Harekâtı'nda birliklerine komuta etti. Sarıkamış Harekâtı'nda önce yaralandı, sonrasındaysa Rus karşı taarruzunun başarıya ulaşmasıyla esir düştü. Önce Semipalatinsk, daha sonra Krasnoyarsk esir kampında kaldı. 1920 yılında buradan kaçmayı başararak Doğu Türkistan ve Orta Asya şehirleri üzerinden 6 yıllık esaret sonrasında Türkiye'ye döndü.

Türkiye'ye dönünce Kâzım Karabekir'in Doğu Ordusu'nda görev aldı. Savaştan sonra Kırmızı şeritli İstiklâl Madalyası ile taltif edildi. 1926 yılında batıya tayin oldu. Afyon'a 1. Kolordu Divan-ı Harp Başkanı olarak atandı. 30 Ağustos 1930 tarihinde Mirliva rütbesine terfi etti ve Paşa oldu. 1931 yılında emekli oldu.

II. Dünya Savaşı'nın başlamasıyla birlikte ilan edilen seferberlik kapsamında 1939 yılında tekrar göreve çağrıldı ve İstanbul Askeri Mıntıkası komutanı oldu. 1942 yılında İstanbul 2 No'lu Sıkıyönetim Mahkemesi Başkanlığı'da getirildi. 14 Temmuz 1943 tarihinde yaş haddinden ikinci kez emekli oldu. 1 Haziran 1949 tarihinde vefat etti.

Askerliğinin ilk yıllarından itibaren tüm anılarını kaleme aldı. 1.800 sayfa tutan bu anıları, yazar Sami Önal tarafından yayına hazırlandı ve Harbiye'den Dersim'e ve Sarıkamış'tan Esarete isimli iki ayrı kitap olarak yayınlandı.

I. Dünya Savaşı öncesindeki çalkantılı dönemdeki anılarını kapsayan Harbiye’denDersim'e, Harbiye'de Enver Paşa ile sıra arkadaşı olduğu yıllardan başlayıp 31 Mart Ayaklanması'na ve Dersim İsyanı'na uzanıyor.

Sarıkamış'tanEsarete isimli kitapta ise Ziya Yergök'ün 83. Alay Komutanlığı'na atanması, Sarıkamış Harekâtı'nda Ruslara esir düşmesi, Krasnoyarsk esir kampından kaçarken geçtiği Orta Asya şehirleri, Doğu Türkistan, Sibirya, Azerbaycan gibi yerlerdeki anıları ve gözlemleri yer almaktadır.