İstanbul’da doğdu. Abdülkādir-i Geylânî soyundan gelen Ümmü Kemalzâde İmamoğulları (Koca İmamoğulları) ailesine mensuptur. Aile şeceresinin dayandığı Ümmü Kemal, II. Murad devrinde Buhara’dan gelip halen türbesinin bulunduğu Bolu-Gerede’de tekke kurmuş bir mutasavvıftır. Şemseddin, soyadı kanunu çıkınca hocası Yeşilzâde Mehmed Sâlih Efendi’ye nisbetle Yeşil soyadını almış, halk arasında Yeşil Hoca olarak tanınmıştır.