Con la terminación de la protección de la patente de Diesel para motores diésel en 1912, las ventajas de este motor se dieron cuenta rápidamente y se utilizó ampliamente en la propulsión de barcos y en equipos estacionarios. Sin embargo, los problemas de los primeros motores diésel con gran masa y baja relación potencia-peso no se han resuelto eficazmente. Los motores diésel de aquella época tenían muchos defectos, el mayor de los cuales era el peso. Debido a que la presión del cilindro de un motor diésel es mucho mayor que la de un motor de gasolina, la fuerza y el volumen del cilindro de un motor diésel son mucho mayores que los de un motor de gasolina. Al mismo tiempo, el compresor de aire utilizado en los primeros motores diésel también era muy grande, lo que hacía que el motor diésel en general fuera muy pesado. Esto provocó ciertos obstáculos al uso de automóviles y ferrocarriles en tierra, por lo que en aquel momento no se tomó en serio el potencial de los motores diésel como fuente de energía para locomotoras ferroviarias.
En 1906, Diesel, el ingeniero ferroviario alemán Adolf Klose y el fabricante de motores suizo Gebrüder Sulzer trabajaron codo con codo para fundar Diesel-Sulzer-Kracz GmbH, especializada en el diseño y producción de locomotoras diésel para ferrocarril. Además de producir máquinas de vapor tradicionales, la fábrica de motores Green-Sulzer también comenzó a producir motores diésel en 1898. Los Ferrocarriles Estatales Prusianos (en alemán: Preu & szligIsche Staatseisenbahnen) encargaron en 1909 una locomotora diésel a la empresa Diesel-Sulzer-Kracz como prueba. Después de tres años de investigación, en 1912 nació en Suiza la primera locomotora diésel auténtica del mundo. Esta locomotora diésel pesaba 95 toneladas, tenía una potencia de 883 kilovatios y una velocidad máxima de 100 kilómetros por hora, la locomotora debutó ese verano en el ferrocarril Winterthur-Romanschne, en Suiza. Después de una breve prueba, fue entregado al Imperio Alemán en septiembre de 1912. Durante la operación de prueba de 1913, se descubrieron uno tras otro algunos problemas y fallas, y los ingenieros alemanes y suizos también continuaron realizando mejoras técnicas. Sin embargo, debido al estallido de la Primera Guerra Mundial en 1914, se interrumpieron más experimentos.
Al otro lado del océano, en Estados Unidos, Adolphus Busch, uno de los cofundadores del fabricante de cerveza estadounidense Anheuser-Bush, compró en 1898 la cervecería producida en Estados Unidos. para motores diésel. Aunque existen registros del uso de motores diésel en vagones ya a principios del siglo XX, esta nueva fuente de energía procedente del transporte no se utilizó ampliamente en los Estados Unidos. La American General Electric Company se involucró en el mercado de vagones de ferrocarril a principios del siglo XX. Thomas Edison, uno de los fundadores de General Electric Company, también realizó experimentos con vagones eléctricos en 1880. General Electric Company lanzó su primer prototipo de locomotora eléctrica. en 1895. . Sin embargo, debido al alto coste de la electrificación, General Electric centró su atención en los motores diésel y concibió vagones "eléctricos" que utilizan motores diésel para generar electricidad y suministrar energía a los motores de tracción, que más tarde se conocen como locomotoras diésel de transmisión eléctrica. Sin embargo, al comienzo del desarrollo surgieron dificultades técnicas. Debido al sistema de control de velocidad variable del generador de CC y del motor eléctrico inventado por Harry Ward Leonard, la coordinación entre el motor diésel y el motor eléctrico era deficiente. En 1914, se produjo un importante avance tecnológico en investigación y desarrollo. El ingeniero de General Electric, Hermann Lemp, inventó y patentó un sistema confiable de control de energía de CC.
El sistema de control acopla automáticamente el regulador del motor de combustión interna al generador y al motor de tracción, eliminando la necesidad de que un tercero regule manualmente el motor en la locomotora de combustión interna. La importancia de este sistema es resolver el problema de control y coordinación de las locomotoras diésel de transmisión eléctrica y convertirse en el antepasado del futuro sistema de control de locomotoras diésel de transmisión eléctrica.
En 1917, General Electric utilizó el sistema de control de Liepa para probar una locomotora diésel de transmisión eléctrica. Esta fue también la primera locomotora diésel de transmisión eléctrica en los Estados Unidos. En 1923, la ciudad de Nueva York aprobó la Ley Kaufman, que prohibía la entrada de locomotoras de vapor altamente contaminantes a los límites de la ciudad de Nueva York. El propósito de este proyecto de ley es electrificar todos los ferrocarriles de alto volumen en Nueva York, pero no es rentable electrificar los ferrocarriles en áreas de bajo volumen. Por ello, Nueva York pidió a Ingersoll Rand que desarrollara una locomotora diésel para maniobras, la "Boxcab", que utilizaba el motor, el motor de tracción y el sistema de control de General Electric. La locomotora tenía una potencia de 220 kW y fue entregada en julio de 1925. El uso real de este tipo de locomotoras demuestra que cuando el coste de electrificar los ferrocarriles era muy alto en aquella época, las locomotoras diésel eran una opción muy económica. A mediados de la década de 1920, la Baldwin Locomotive Factory en los Estados Unidos también diseñó y produjo un prototipo de locomotora diésel eléctrica, utilizando equipos eléctricos Westinghouse. Se utilizó principalmente en áreas donde las locomotoras de vapor eran difíciles de operar, como áreas sin agua. y carbón. En ese momento, las locomotoras diésel entraron en la etapa práctica y sus ventajas de rendimiento surgieron gradualmente. En 1929, el Ferrocarril Nacional Canadiense encargó dos locomotoras diésel a Westwood Electric, convirtiéndose en la primera empresa ferroviaria de América del Norte en utilizar locomotoras diésel en sus principales líneas ferroviarias. Por otro lado, las locomotoras diésel han comenzado a utilizarse ampliamente en el campo de las locomotoras de maniobras. General Electric Company produjo una serie de pequeñas locomotoras diésel de maniobras en las décadas de 1960 y 1930, y Westinghouse Electric Company y Baldwin Locomotive Works también comenzaron a producir locomotoras diésel de maniobras en las décadas de 1960 y 2009. Sin embargo, debido a la Gran Depresión poco después, Westinghouse detuvo la producción de locomotoras y pasó a proporcionar componentes eléctricos para locomotoras. En comparación con las locomotoras de vapor tradicionales, las locomotoras diésel son potentes, no generan contaminación por humo y son relativamente fáciles de mantener. En el continente norteamericano, en la década de 1930, las locomotoras diésel de propulsión eléctrica se convirtieron rápidamente en la fuerza principal en las líneas principales de ferrocarril. Se lanzó oficialmente la etapa de transición de las locomotoras de vapor a las locomotoras diésel. Algunas locomotoras diésel de línea principal constan de varias locomotoras diésel con una sola potencia. Aparecieron locomotoras de 900 ~ 1000 kW, como la locomotora diésel FT desarrollada con éxito por EMD en 1939.
En Europa, las empresas alemanas Krauss-Maffei Wegmann, Augsburg-Nuremberg Machinery Works y Voith desarrollaron con éxito la primera locomotora diésel hidráulica del mundo, la v 140, y entró en servicio en 1935. Este tipo de locomotora diésel tiene una estructura más sencilla y un peso más ligero que una locomotora eléctrica. El Deutsche Reich Bahn (DR) está muy satisfecho con el rendimiento de esta locomotora. Desde entonces, las locomotoras diésel líquidas se han convertido en las principales locomotoras de las principales líneas ferroviarias de Alemania.
Después de la Segunda Guerra Mundial, las locomotoras diésel entraron en una etapa de rápido desarrollo. Debido a la rápida mejora del rendimiento de los motores diésel y la tecnología de fabricación, así como a la popularización de los sistemas de turbocompresor de gases de escape, la potencia de las locomotoras de combustión interna ha aumentado generalmente alrededor de un 50% en comparación con antes de la Segunda Guerra Mundial. En la década de 1950, el número de locomotoras diésel aumentó rápidamente y las locomotoras diésel de transmisión eléctrica de CC y los sistemas hidráulicos diésel mostraron un desarrollo de doble vía. En la década de 1960, se desarrollaron y aplicaron con éxito rectificadores de silicio de alta potencia a locomotoras ferroviarias. Aparecieron locomotoras diésel de accionamiento eléctrico AC-DC y se mejoró aún más el nivel de potencia. Con el desarrollo de la tecnología electrónica, la República Federal de Alemania (Alemania Occidental) produjo en 1971 una locomotora diésel de propulsión eléctrica AC-DC-AC (Henschel-BBC DE2500) con una potencia de 1840 kW, lo que proporcionó una nueva forma de el desarrollo tecnológico de las locomotoras diésel.