黄佐聪慧好学，幼承家风，3岁即受读《孝经》，8岁钻研诗、词以及天文、历算之书。明正德五年(1510年)中解元，嘉靖元年(1522年)中进士，选庶吉士，授翰林院编修。在“大礼议”之争，黄佐主张依礼追嘉靖帝生父为皇叔，因而被外放任江西佥事。旋改任广西督学，任内倡修乡村社学，拆除淫祠，编印《理学本源》颁行所辖郡邑。后因母病致仕。居家9年后被重新起用，为翰林院编修兼左春坊左司谏。不久进职侍读，掌南京翰林院，召为右谕德，擢南京国子监祭酒。丁母忧后又任少詹事，与首辅夏言议河套事，意见相左。其时，吏部右侍郎职位空缺，欲谋此位者互相诋毁，使龙颜大怒。黄佐虽未参与其事，却因是被荐举的候选人而受牵连罢官。淡泊功名的黄佐自此绝意仕途。
归居广州后，黄佐改白云山景泰寺为泰泉书院，广收弟子。弟子中不乏俊贤之才，明代岭南诗坛著名的“南园后五先生”中，欧大任、梁有誉、黎民表三人即出其门下。讲学之余，黄佐潜心著述，在经学、地方文献、诗词等方面均有较大建树。黄佐博通经籍，学术上尊陈献章之学说，而与王守仁则数相辩难，其所持理气一体说，认为“理即气也，气之有条不可离者谓之理，理之全体不可离者谓之道。盖通天地、亘今古，无非一气而已”，在明代学坛独树一帜。