Comenzó a grabar a principios de los años 1960, y lanzó su primer disco, The colors of Chloë (ECM 1042), bajo su propio nombre en 1973. Además de su carrera como músico, también trabajó por muchos años como director de teatro y televisión. Diseñó un bajo acústico-eléctrico con una cuerda en Do extra.

Su música, a menudo en un tono melancólico, es muy organizado en la coloración y la atención a los detalles dramáticos. Weber fue un avanzado proponente desde el principio del contrabajo electrico de base sólida, que ha tocado con regularidad desde el comienzo del decenio de 1970.
Sus proyectos son muy diversos, del main stream del jazz a la fusión jazz-rock de vanguardia a los experimentos de sonido. Durante este período también tocó y grabó con (entre otros muchos) los pianistas Hampton Hawes y Mal Waldron, los guitarristas Baden Powell de Aquino y Joe Pass, y el violinista Stephane Grappelli.

En 1973 hizo su primer disco como líder, The colours of Chloë,...