Родился в немецкой семье, эмигрировавшей во Францию. В 1870 из-за начавшейся франко-прусской войны всю семью выслали в Англию, откуда Рудольфа родители отправили заканчивать образование в Германии — сначала в Аугсбурге, а затем в Высшей Технической школе в Мюнхене, которую Рудольф закончил с отличием. Большой удачей для него стало покровительство известного инженера Карла фон Линде, устроившего Дизеля на работу в парижское отделение своей фирмы в 1880. Долгие годы Рудольф работал над созданием такого двигателя, в котором бы воздух сжимался таким образом, чтобы создавалась необходимая для воспламенения температура при соединении воздуха с топливом. В 1890 фирма Линде перевела Дизеля в берлинское отделение. Здесь он представил расчеты и теоретическое обоснование своей идеи, в 1892 получил патент. В 1897 был продемонстрирован двигатель мощностью 25 л.с. Высокоэффективный двигатель заинтересовал фирму Круппа, машиностроительные заводы Аугсбурга и многих других. К Рудольфу Дизелю пришел коммерческий успех, но через некоторое время лицензионные отчисления («ройялти») прекратились из-за конструкторских просчетов, устраненных уже дальнейшими изобретателями. Рудольф Дизель погиб, видимо, во время крушения почтового парохода «Дрезден» в проливе Ла-Манш (есть и другие версии).