acido en Old Forge, Pensilvania, Jones, de origen galés, protagonizó varios fimes musicales de las décadas de 1930 y 1940. Los más conocidos de todos ellos fueron Show Boat (1936) y The Firefly (1937) (en el cual cantaba la popular "Donkey Serenade"). Sin embargo, en la actualidad es más conocido por sus papeles de romántico comparsa de los Hermanos Marx en dos películas rodadas por ellos para MGM: Una noche en la ópera y Un día en las carreras.
Gracias a su actuación en A Night at the Opera, sin embargo, consiguió el codiciado papel de Gaylord Ravenal en la versión rodada en 1936 de Show Boat (junto a Irene Dunne), superando a favoritos del género musical como Nelson Eddy y John Boles. Éste fue su papel más sobresaliente, en el cual, bajo la dirección de James Whale, pudo desplegar sus habilidades dramáticas y musicales.
En 1936 tuvo una breve actuación en la película de Nelson Eddy y Jeanette MacDonald Rose Marie, cantando música de Romeo y Julieta, de Charles...