Törley József, teljes nevén Csantavéri Törley József Ernő Félix 1858. január 10-én született Szabadkán.
Apja, Schmierl Valentin, 1848-as honvéd vadászhadnagy, édesanyja bajsai Vojnits Mária volt. Édesapja miután részt vett az 1848–49-es forradalom és szabadságharc küzdelmeiben, nevét Törley Bálintra magyarosította. A magyar név kiválasztásában szerepet játszott, hogy eredeti német neve, Schmierl, a schmierenből illetve a streichenből származik, ami annyit jelent, mint kihúzni, törölni (Törlei).
A Csantavérről származó, földműveléssel foglalkozó Törley család számára egy idő után kicsinek bizonyult a szülőfalu, és terjeszkedni kezdett. Törley Bálint három fia: az építészmérnök Törley Antal, akinek Magyarországon volt birtoka, a közgazdász Törley Gyula, aki Zobnaticán a kastélyt építtette, és Törley József, a budafoki pezsgőgyár névadó alapítója.
1896 április 1-jén I. Ferenc József magyar király nemességet és előnevet adományozott Törley Józsefnek.