Der Sohn des Klavierlehrers, Notenkopisten und Klavierstimmers Julius und dessen Frau Eleonore Charlotte Mathilde, geb. Willutzki, stammte aus einer Musikerfamilie. Sein Großvater Wilhelm Gottfried Martin war u. a. Organist und Komponist (1766–1842), sein Bruder Gustav (* 25.12.1843 Königsberg, † 26.11.1895 Köln/D) war als Geiger und Komponist tätig und lehrte am Kölner Konservatorium. Zuerst wurde J. vom Theaterkapellmeister Eduard Sobolewski ausgebildet, ab 1849 studierte er in Berlin bei L. Ehlert, Louis Köhler sowie bei Friedrich Marpurg und bildete sich in der Folge autodidaktisch weiter. Pianistisch wurde er durch F. Liszt gefördert, dem er auch ein Klaviertrio widmete. Ab 1856 war er als privater Musiklehrer in Brest-Litowsk/RUS tätig. 1857 wurde er zum Kapellmeister am Stadttheater Posen (Poznań/PL) und Bromberg (Bydgoszcz/PL) ernannt. Er studierte ab 1858 zwei Jahre in Kopenhagen bei Niels Wilhelm Gade, parallel Tätigkeit als Kapellmeister an der dortigen deutschen Oper. Als Konzertpianist unternahm er zusammen mit dem Cellisten Christian Kellermann Konzertreisen in Skandinavien. 1860 Rückkehr nach Königsberg, 1861 Ernennung zum 2. Direktor der Musikalischen Akademie in Königsberg. Erfolge als Komponist, Musikpädagoge und als Pianist, u. a. Konzerte zusammen mit A. Rubinstein und C. Schumann. 1863 heiratete er Friederike Bornträger († Ende März 1909 Montreux/CH), die Tochter eines Verlegers, und hatte mit ihr zumindest ein Kind, Elisabeth. Die Heirat ermöglichte ihm finanzielle Unabhängigkeit. 1866–68 hatte J. eine Professur für Klavier in Berlin an K. Tausigs Schule des höheren Klavierspiels inne, 1868 zog er nach Dresden/D, wo er sich sehr für die Musik R. Wagners einsetzte. Wegen fortschreitender Tuberkulose folgten Kuraufenthalte in (Bad) Ems/D, (Bad) Reichenhall/D und Meran. Von 1870–75 lebte er in Graz, wo dem Komponisten auch noch zum 30. Todestag Gedenkfeiern der Richard-Wagner-Vereine gewidmet wurden. In Folge zog er nach Baden-Baden, wo er in engem Kontakt mit J. Brahms stand. J. erlangte besonders mit seinen ausdrucksstarken Liedern und melodisch reichen, impressionistische Strömungen vorwegnehmenden Klavierkompositionen ab den 1860er Jahren hohes Ansehen. Musikalisch sah man ihn durch seinen romantisch-feinsinnigen und poetischen Stil in der Nachfolge R. Schumanns.