Delvaux studerede på Konservatoriet i Louvain og det Kongelige Musikkonservatorium i Liege.
Han vandt mange priser for sin musik og sit cellospil, men blev mest kendt for sin prisvindende Sinfonia Burlesca (1961), som er hans første symfoni af i alt fire.
Han var inspireret af bl.a. Claude Debussy, Maurice Ravel og Olivier Messiaen.