Rudolf Levy wird am 15. Juli 1875 in Stettin geboren. Er ist der Sohn einer jüdischen Kaufmannsfamilie. Nach dem Gymnasiumbesuch in Danzig beginnt er seine künstlerische Ausbildung im Jahr 1895 an der Großherzoglichen Badischen Kunstgewebeschule in Karlsruhe. Anschließend geht Rudolf Levy um 1897 nach München, um dort an Privatschulen Unterricht zu nehmen.
Im Freilichtatelier des Lehrers Zügel setzt er sich mit den deutschen, vor allem aber mit den französischen Impressionisten auseinander und beschließt im Jahr 1903 nach Paris zu gehen. In Paris nimmt Levy Kontakt zum Künstlerkreis des "Café du Dôme" auf, ist 1905 auf dem Dritten Pariser Herbstsalon neben den Aufsehen erregenden Bildern der Fauves vertreten und studiert ab 1907 im neu gegründeten Matisse-Schüler-Atelier.
Seine Teilnahme an Ausstellungen, u.a. 1912 an der Kölner Sonderbundausstellung und im Amsterdamer Stedelijk Museum, wird mit Ausbruch des Ersten Weltkrieges unterbrochen. Levy meldet sich als Freiwilliger und kämpft als deutscher Soldat in Frankreich.
Anfang der 20er Jahre siedelt Rudolf Levy von München nach Berlin über, wo der Galerist Alfred Flechtheim Levys erste Einzelausstellung organisiert. Als Vorstands- und Jurymitglied der Berliner Secession beteiligt sich Rudolf Levy bis zu seiner Emigration aus Deutschland im Jahr 1933 an den Secessionsausstellungen.
In der folgenden Zeit beginnt für den Künstler ein ruheloses Reisen, von Mallorca, über New York, bis er in Italien einen vorübergehenden Aufenthaltsort findet. Ende des Jahres 1943 wird Rudolf Levy von den Nationalsozialisten in Florenz verhaftet und kommt auf dem Transport jüdischer Gefangener zum Sammellager Carpi bei Modena im Januar 1944 ums Leben.
Rudolf Levys künstlerisches Werk, von dem zahlreiche Bilder verschollen sind, besteht hauptsächlich aus Landschaften und Stillleben, aber auch Figürliches und Bildnisse. Seine mit leuchtenden Farben gemalten Bilder verraten den Einfluss seines Lehrers Matisse und die Auseinandersetzung mit der Malerei Paul Cézannes.
In den 20er Jahren arbeitet der Künstler Levy an der Synthese von Expression und Realismus, die zunehmend sachliche, bisweilen neoklassizistische Züge besitzt.
Während der Emigrationszeit Rudolf Levys entstehen vermehrt Bildnisse, zum Teil einige Auftragsporträts und durch den notgedrungenen Rückzug ins Atelier viele Stillleben. Der in den 20er Jahren ausgereifte Stil Levys findet in seinem späten Werk seine Fortsetzung und Vervollkommnung. Die Gemälde Rudolf Levys sind in vielen öffentlichen Sammlungen deutscher Museen vertreten.