Jannen pääsoitin vaihtui pianosta viuluksi 1880-luvun vaihteessa. Hänen absoluuttinen sävelkorvansa oli tottunut kodin alavireiseen taffelipianoon. Kun kotiin hankittiin normaalivireinen piano, Sibelius muisteli vieraantuneensa ja siirtyneensä ”viulun kannalle”.

Syksyllä 1881, lähes 16-vuotiaana, Janne pääsi vihdoin oikeille musiikkitunneille sotilaskapellimestari Gustaf Levanderin oppilaaksi. Vaikutus koulunkäyntiin oli dramaattinen jo ennen oppituntien alkua: Janne oli saanut turkulaiselta Pehr-sedältä käyttökelpoisen viulun kesällä 1881, ja unohti lukea latinan kirjoituksen ehtoihin. Viides luokka jouduttiin tuplaamaan.

Sibeliuksen päästötodistus Hämeenlinnan Normaalilyseosta

Viulunsoitossa edistys oli kuitenkin nopeaa. Sisarukset muodostivat trion, jossa Janne soitti viulua, Linda pianoa ja pikkuveli Christian selloa. 

Sisarustrio Janne, Linda ja Christian Sibelius Loviisan kylpyläkasinolla.

Joulukuussa 1881 Janne oli liittynyt myös koulun orkesteriin kakkosviulun soittajaksi. Pian hän soitti myös paikallisten harrastajien kvartetissa. Ohjelmistossa oli esimerkiksi Haydnin kvartettoja sekä Schubertin ja Mendelssohnin sävellyksiä.

Monissa Sibelius-elämäkerroissa mainitaan, että Janne olisi tehnyt ensimmäisen sävellyksensä Vattendroppar (Vesipisaroita) noin vuosina 1875-1876. Kyseessä on wieniläisklassiseen tyyliin kirjoitettu miniatyyri sellolle ja viululle. Nykyisin useimmat tutkijat arvelevat, että sävellysvuosi olisi pikemminkin 1880-luvun alussa, ja kyseessä voisi olla pieni pizzicatoharjoitelma Jannelle ja sellonsoittoa aloitelleelle Christian-veljelle.

Keväällä 1883 Sibelius kirjoitti alkaneensa lukea harmoniaoppia. "Olen soittanut pääasiassa pianoa oppiakseni lopulta lukemaan nuotteja kuten setä sanoi", hän kirjoitti.

Ensimmäinen maininta omasta sävellyksestä on kirjeessä Kalalahdelta 25. elokuuta 1883. Sibelius kertoi säveltäneenä trion ja tekevänsä toista. "Huonojahan ne ovat, mutta sadepäivinä on hyvä olla jotain tekemistä", hän kirjoitti. Säilynyt trio on ensimmäinen varmasti päivättävissä oleva Jannen sävellys. Näin oli alkanut Sibeliuksen ura säveltäjänä.

Sibelius sävelsi varhaisimmat teokset käyttömusiikkiksi perheelle. Varhaisteoksissa on nähty wieniläisklassismin ja myöhemmin varsinkin Tšaikovskin ja Griegin vaikutusta.

Helmikuussa 1884 Janne sai käsiinsä Johann Christian Loben teoksen Lehrbuch der musikalischen Composition, jota hän kutsui kirjeessä Pehr-sedälle nimellä Compositionslehre. Jos Sibelius kahlasi teoksen läpi, hän sai ikäisekseen poikkeukselliset tiedot musiikin teoriasta. Sibelius sävelsi Loben oppien mukaan pian pianokvartettoa ja pianotrioa.

Sävellys vei niin paljon aikaa, että koulumenestys oli vaakalaudalla. Janne sai itseään kiinnostavista aineista hyviä numeroita, mutta jätti muun opiskelun vähemmälle. Suvun pahoista aavistuksista huolimatta Janne pystyi kirjoittamaan ylioppilaaksi keväällä 1885, vaikka matematiikan koepaperin marginaaleihin ilmestyi numeroiden sijasta melkoisesti nuotteja. Säilynyt ylioppilasaine todistaa, että Jannen koulusuomi oli varsin hyvää ja että Kustaa III:n aika Ruotsin johdossa kiinnosti häntä erityisesti.

Sibelius pohti apteekkarin tai konttoristin uraa kirjeissään, mutta enonsa Axel Borgin kehotuksesta hän ilmoittautui yliopistoon, lainopilliseen tiedekuntaan. Suku ei halunnut estää Jannen musiikkiharrastustakaan, joten tuore ylioppilas sai kirjautua myös musiikkiopistoon ylimääräisenä oppilaana.