Tomita nació en Tokio y pasó su primera infancia con su padre en China. Tras volver a Japón, tomó clases privadas de orquestación y composición mientras estudiaba historia del arte en la Universidad de Keio, Tokio. Se graduó en 1955 y se convirtió en compositor a tiempo completo para televisión, cine y teatro. Compuso la música para el equipo gimnástico olímpico japonés de los Juegos Olímpicos de 1956 en Australia.

A finales de los 1960s, volvió su atención hacia la música electrónica tras escuchar álbumes de Walter Carlos en los que Walter interpretaba música clásica con un sintetizador Moog. Isao compró un sintetizador Moog III y comenzó a montar su estudio doméstico. Empezó arreglando piezas de Claude Debussy para sintetizador y en 1974 publicó el álbum Snowflakes are Dancing, convirtiéndose en un éxito mundial. Su versión del Arabesco #1 se usó como el tema principal para las series de televisión de astronomía Jack Horkheimer's Star Gazer...