Nedideliam miestelyje Niujorko valstijoje gimęs G. Segalas kine debiutavo septintajame dešimtmetyje. Persilaužimas aktoriui pavyko po vaidmens filme „Kas bijo Virdžinijos Vulf?“, kur jis vaidino kartu su tokiomis kino žvaigždėmis, kaip Elizabeth Taylor ir Richardas Burtonas. Už antraeilį vaidmenį juostoje jis 1967 metais buvo nominuotas „Oskarui“.
Iki 2010 metų G. Segalas suvaidino daugiau kaip 50 filmų. 1974-aisiais jis apdovanotas „Auksiniu gaubliu“ kaip geriausias aktorius komedijoje „A Touch of Class“.
G. Segalas buvo žinomas ir daugybe savo vaidmenų televizijoje. Nuo 2013 metų jis komediniame seriale „Goldbergai“ vaidino senelį.