Nachdem er schon früh seinen Vater verlor, wurde er von seinem Stiefvater, einem angesehenen jüdischen Kaufmann aus Münchweiler/Alsenz namens Isaac Felsenthal erzogen. In seiner Biographie heißt es: „dass dies mit großer Liebe und größter Sorgfalt geschah“.
Als Fünfzehnjähriger wurde er bereits im „talmud“ (Lehre des Judentums) unterrichtet, um dann 1823 in Mainz mit dem talmud-Studium zu beginnen. Nach drei Jahren wechselte er 1826 an die talmud-Schule in Mannheim, wo er nebenbei privaten Unterricht in Latein und Griechisch erhielt. Zur Vorbereitung auf das Abitur befasste er sich anschließend eineinhalb Jahre mit talmudstudien in Frankfurt. Das Abitur legte er in Speyer ab. Sein Universitätsstudium begann er in Bonn mit Philosophie und arabischen Sprachen. Nach zwei Semestern wechselte er an die Universität in München und wandte sich auch dort vorwiegend der Philosophie zu. Er war Primus bei der Rabbinatsprüfung, die er im August 1834 in Bayreuth ablegte.
Seine erste Wirkungsstätte fand er ab 15. August 1835 im Fürstentum Birkenfeld, in dem er als Landrabbiner das jüdische Schulwesen reorganisierte. Bereits am 25. Juni 1836 wurde er als Bezirksrabbiner nach Landau berufen, wo er 57 Jahre äußert erfolgreich gewirkt hat. So wurde auf seine ständigen Petitionen hin in Landau der jüdische Friedhof angelegt. Grünebaum war einer der ersten wissenschaftlich ausgebildeten Rabbiner in Deutschland. Daneben war ein hervorragender Theologischer Schriftsteller.
Als eifriger Anhänger der sogenannten neugläubigen Richtung förderte er die Emanzipation der Juden im religiösen Bereich, die sich parallel mit der Liberalisierung der protestantischen Kirche vollzog. Eines seiner Hauptanliegen war die Organisation des mosaischen Schulwesens. Seinen Bemühungen ist es zu verdanken, dass 1862 im Königreich Bayern der sogenannte „Judeneid“ und „Handelsbeschränkungen“ gegen Juden abgeschafft wurden.
Von seinen Publikationen ist „Die Sittenlehre des Judentums anderen Bekenntnissen gegenüber“ als sein Hauptwerk zu nennen. Außerdem war er Mitautor von Aubs „Synagoge“ und Löws „Ben-Chananjah“. König Ludwig II verlieh ihm 1886 den Michaelsorden II. Klasse.
Grünebaum war mit Johanetta Strauß verheiratet. Aus der Ehe sind 12 Kinder hervorgegangen, von denen 3 im Kindesalter verstarben. Grünebaum verstarb am 25. September 1893 in Landau. In einem Nachruf heißt es: „In allen seinen Arbeiten erkennt man den wissenschaftlich und talmudisch geschulten und über das Mittelmaß sich erhebenden Geist eines scharfsinnigen und emsigen Forschers“.