1908年、前年から体調の不調を訴えていたシベリウスは喉の腫瘍と診察され、5月12日にヘルシンキで手術を受けた。医師はさらに専門医の診察を受けるよう勧めたため、シベリウスはベルリンのフレンケル医師の元を訪れた。6月に手術を行い病根を摘出することができた。病理組織学検査の結果、腫瘍は良性であると判明したが、予後への配慮から酒と葉巻を禁止されてしまった。この加療生活からシベリウスは死を身近に感じるようになり、この時期の作品には暗闇からかすかな光を探し求めるような感覚がつきまとっている。その最も完成された形がこの交響曲第4番である。
病から癒えた1909年、シベリウスは義兄のエーロ・ヤルネフェルトと北カレリア地方のコリ山地へ旅行している。この旅について彼は「生涯で最もすばらしい経験の1つ」と記している。この後に書かれた作曲プランの中に「山」という言葉があり、コリ山地で強いインスピレーションを得たことが示唆されている。しかし、作曲者自身が「心理的交響曲」と呼んだことからも明らかなように、この作品は決して標題音楽ではない。長い闘病生活の不安とその生活を支えた希望、そして病を克服して得た充足感がこの交響曲の核をなしている。
1910年に着手された創作は、何度か短い中断を挟みながら翌1911年の3月末まで続き、同年4月3日の初演直前まで手を入れ続けた。初演は、あまりに晦渋な作品に対して聴衆や批評家の評判は高くなかったが、作曲者の自信が揺らぐことはなかった。
いずれの楽章も、既存の形式からは逸脱した形式で作曲されている。主要主題とその主題と有機的関係にある短いモチーフが緻密に組み合わされて構成され、そうした曲にふさわしく抑制された室内楽的とも評されるオーケストレーションとの相乗効果により、緊張感の高い純粋な音楽となっている。イギリスの音楽研究家セシル・グレイはこの作品のスコアについて「無駄な音が1つもない」と絶賛している。