Sibelius lähti Wieniin vasta 19. lokakuuta ilman tietoa opettajasta. Haaveet saada oppia Brahmsilta tai Brucknerilta osoittautuivat turhiksi. Kumpikaan ei ottanut häntä vastaan. Hän pääsi Wienin konservatoriossa opettavan Robert Fuchsin yksityisoppilaaksi, mutta ilmoittautumisaika konservatorioon oli jo umpeutunut. Konservatorion viralliseksi oppilaaksi hänellä ei ollut asiaa, eikä Sibeliuksen teoksia myöskään esitetty oppilaskonserteissa.

Konservatorion oppilasorkesterin vahvikkeena suomalainen sentään sai soittaa. Näin Sibelius tutustui Wienissä opiskeleviin nuoriin muusikkoihin, kuten viulisti Carl Frühlingiin ja romanialaiseen sellistiin Dmitri Dinicuun.

Sibelius piiritti myös aikanaan hyvin suosittua säveltäjää, Saaban kuningattarella suosioon noussutta Karl Goldmarkia, joka otti Sibeliuksen vastaan marraskuun alussa. Hän suostui Sibeliuksen opettajaksi sillä puheella, että tämä toisi hänelle teoksia arvioitavaksi sitä mukaa, kun niitä valmistui. Fuchs pystyi auttamaan Sibeliusta soitinnuksessa ja Goldmark oli innostava herätteiden antaja.

Sibelius oli opettajiinsa ja kaupunkiin tyytyväinen. Hän kuunteli Wagnerin Tristania ja Isoldea ja kehui esityksen tasoa Berliinin oopperaesityksiin nähden. Toinen suuri elämys oli Brucknerin kolmannen sinfonian uuden version ensiesitys. Sibelius piti Bruckneria nyt ”suurimpana elävänä säveltäjänä” ja osti samalla entiseen tapaan Beethovenin ja Wagnerin partituureja. Hän hakeutui muusikkojen pariin myös opinnollisista syistä ja tutustui esimerkiksi Heber-nimisen oboistin luona perusteellisesti englannintorven ominaisuuksiin.

Opintojen ohella Sibelius juhli perusteellisesti uusien ystäviensä kanssa ja harrasti myös uhkapelejä, joihin hän kuitenkin kyllästyi puolessa vuodessa. ”Koko Wien on yhtä naurua ja valsseja”, ihastunut Sibelius kirjoitti kotiväelleen.

Jean Sibelius Wienissä

Sibelius eli jälleen yli varojensa. Hänet esiteltiin laulajatar Pauline Luccalle, joka oli upporikkaan paronin puoliso, ja pian nuori säveltäjä vietti iltojaan Luccan vastaanotoilla. Rahatilannetta korjatakseen hän pyrki Wienin filharmonikkoihin viulistiksi. Ramppikuumeesta kärsinyt Sibelius oli kuitenkin raadin mielestä liian hermostunut orkesterimuusikoksi.

Wienin vuosi oli ratkaiseva Sibeliuksen kehitykselle. Goldmark usutti häntä työstämään teemojaan entistä harkitummin. Hän kehotti oppilastaan ottamaan toistaiseksi enemmän vaikutteita klassikoilta ja vähemmän Berliozilta ja Wagnerilta. Samaan aikaan Sibelius alkoi tutkia suomalaista kansanmusiikkia ja Kalevalan rytmejä saadakseen teoksiinsa enemmän omaperäisyyttä. Ensimmäiseksi hän sovelsi uutta tyyliä Drömmen-lauluun, jonka hän sävelsi Runebergin runoon.

Hänen luonnoksensa ensimmäiseksi sinfoniaksi alkoivat kehittyä helmikuussa. Niistä jäivät jäljelle E-duuri-alkusoitto ja toiseksi osaksi kaavailtu Balettikohtaus. "Uvertyyri on päässäni", Sibelius kirjoitti Ainolle 10. helmikuuta. "Toinen teema olet sinä: se on kaihomielinen, naisellinen, mutta intohimoinen."

Balettikohtaus sisälsi toisenlaista, synkeämpää intohimoa. Sibelius kertoi myöhemmin Paulille saaneensa inspiraation eräänä yönä wieniläisessä "huoratalossa, jossa huorat tanssivat”.

Huhtikuussa 1891 alkusoitto ja Balettikohtaus esitettiin Helsingissä Robert Kajanuksen orkesterin populäärikonsertissa. Säveltäjä sai kuulla Kajanukselta, että niille ei osoitettu lainkaan suosiota, vaikka ne kuulostivatkin Kajanuksen mielestä loistavilta. Sibeliuksen itsevarmuus kasvoi. "Hallitsen nyt orkesterin ja teen sillä mitä tahdon ja mitä pidän totena", hän kirjoitti itsevarmasti Adolf Paulille.

Suomalaiset arvostelijat oudoksuivat sävellysten "modernisuutta". "Suoraan sanoen, me emme wielä ehtineet päästä selwille siitä mitä taiteilija siinä oikeastaan tahtoo ilmituoda", Päivälehden arvostelija kommentoi alkusoittoa 24. huhtikuuta. Balettikohtaus jätti Päivälehden Oskar Merikannon ”aivan ymmälle”.

Alkusoitto ja Balettikohtaus jäivät erillisiksi teoksiksi, kun Sibelius luopui sinfoniasuunnitelmasta ja ryhtyi säveltämään orkesteriteosta Kalevalan Kullervo-taruun. Työtä häiritsi uusi sairastuminen, joka johti hoitoon ja ilmeisesti myös leikkaukseen tohtori Ederin hintavassa yksityissairaalassa. Sibelius kirjoitti, että häneltä poistettiin ”kivi”. Tämän jälkeen säveltäjän terveydentila koheni, ja opiskeluvuosien kroonisesta sairastelusta päästiin.

Sukulaiset joutuivat Loviisassa keräämään ystäviltään kolehtia saadakseen Sibeliuksen pois wieniläisestä sairaalasta kesäkuussa, opintojen jo loputtua. Sibelius matkusti Berliiniin, jossa hän tuhlasi koko matkakassansa juhlimalla vanhojen opiskelukavereidensa kanssa. Suvun vaivalloisesti keräämä uusi rahalähetys riitti vihdoin Suomeen asti. Sibelius joutui kotimaassa ensitöikseen ottamaan lisää velkaa.