中國科學院廣州地球化學研究所的前身，可上溯到1964年根據國家需要從中國科學院地質研究所分設出來的中國科學院地球化學研究所。1966年該所由北京遷至貴陽，長期以來在涂光熾院士的直接領導下，建立和發展了我國地球化學和礦物學領域的許多新興分支學科，在揭示成礦物質來源、成礦機理、成礦規律、能源開發與應用，以及探尋我國礦產資源綜合利用途徑等方面，取得了一系列高水平的理論及應用性成果，為我國國民經濟建設、國防建設和科學事業的發展作出重大貢獻。1986年，在廣東省人民政府支持下，該所部分學科和研究室整建制搬遷到廣州，與1978年開始籌建的廣州地質新技術研究所合并，成為中國科學院地球化學研究所廣州分部。1993年經中國科學院批準地球化學研究所廣州分部獨立建所，暫以中國科學院廣州地質新技術研究所名稱運行；1994年經國家編制委員會批準成為獨立的研究所建制，正式啟用中國科學院廣州地球化學研究所名稱。2002年初，按照中國科學院關于建立南方海洋科學創新基地的戰略部署，原中國科學院長沙大地構造研究所與廣州地球化學研究所實行異地整合，整合后的廣州地化所整體進入中國科學院知識創新工程二期試點序列，2011年進入中國科學院“創新2020”整體擇優支持研究所行列。　　

   研究所擁有有機地球化學和同位素地球化學2個國家重點實驗室，邊緣海地質和礦物學與成礦學2個中國科學院重點實驗室，資源環境利用與保護和礦物物理與礦物材料研究開發2個廣東省重點實驗室，以及國家大型科學儀器中心—廣州質譜中心；為承擔國家重大需求任務，2007年中科院批準建立中科院珠江三角洲環境污染與控制研究中心；為服務地方環境質量改善和可持續發展，在院省戰略合作框架下，相繼成立中國科學院佛山環保技術與裝備研發專業中心和佛山市中科院環境與安全檢測認證中心。建有“地學與資源科普教育基地”，主辦有中國核心期刊《地球化學》和《大地構造與成礦學》。

   研究所設有地球化學、礦物學巖石學礦床學、構造地質學、環境科學和環境工程5個博士培養點，地球化學、礦物學巖石學礦床學、第四紀地質學、構造地質學、海洋地質、環境科學、環境工程、地圖學與地理信息系統和人文地理學9個學術型碩士培養點，環境工程、地質工程2個專業型工程碩士培養點，并設有地質學和環境科學與工程2個一級學科博士后科研流動站。

　  該所“地學與資源科普基地”于2005年被列為廣州市、廣東省和國家科普教育基地。

　　遷所廣州以來歷任所長：傅家謨 、孫大中（以上主持廣州分部工作）、趙振華 、夏  斌 、范蔚茗。