Sanatçı, ailesinin Coleman Hawkins, John Curby gibi pek çok usta ismin yaşadığı Sugar Hill’e taşınması ve dinlediği blues sanatçısı Louis Jordan’ın etkisiyle müzisyen olmak istedi. 

Evde piyano derslerine başladı. 8 yaşında iken annesi ona kullanılmış bir alto saksofon aldı. Charlie Parker’ın etkisiyle 17'sinde tenor saksafona başladı. İki yıl sonra Thelonious Monk, Coleman Hawkins, Charlie Parker, Modern Jazz Quartet gibi topluluklar ile birlikte çalışmaya başladı.

Yirmi yaşına gelmeden Babs Gonzales, J.J. Johnson, Bud Powell ve Miles Davis gibi sanatçılarla kayıtlar gerçekleştirdi.

Hawkins’ten ton zenginliğini, Lester Young’dan esnek ifade gücünü alıp kendi ritmik, melodik yetenekleriyle birleştirdi.

1950'de silahlı soygun suçlamasıyla tutuklandı. 10 ay sonra şartlı tahliye edildi. İki yıl sonra eroin kullanmaktan tutuklandı.

1954'te Thelonious Monk ve Kenny Dorham’la kaydettiği, kendi bestelerinin de yer aldığı “Moving Out” onu bir anda şöhrete kavuşturdu. Piyanonun baskın karakterini sevmeyen ve nefesli çalgıyı belirli bir yöne doğru yönlendirdiğini düşünen sanatçı 1957'de piyanosuz üçlü akımını başlattı.

22 haziran 1956'yı gösterir. saxophone colossus piyasaya sürüldüğü gibi Rollins efsanesinin yükselişi dur durak bilmeden zirveye çıkmış, gününün en iyi saksofoncusu olmuştur. St. Thomas’ın yaratıcısı olduğu kadar You Don’t Know What Love Is’in en iyi yorumcusu, Moritat’in bestecisidir

1958 yılında çıkardığı “The Freedom Suite” albümü caz dünyası için bir başyapıttır.

1959-1961 arasında ve 1966'da iki kez yeni şeyler üretemediğini fark ederek müziğe ara verdi.

1961'de Rolling Stones’un Tattoo You albümünde çaldı. 1968'de Hindistan’a gitti ve beş ay kaldı. Dönüşte müziği 1972'ye kadar bıraktı.

1986'da Robert Mugge’nin Saxophone Colossus adlı belgeseli için “Tenor Saksofon Konçertosu“nu yazdı.Tokyo’da Nippon Senfoni Orkestrası’yla konseri bu filmde yer aldı, fakat albüm olarak yayımlanmadı.

2001 ve 2006'da albümleriyle Grammy aldı. ABD başkanı Barack Obama tarafından Ulusal Sanat Madalyası‘yla onurlandırıldı.

Aralarında “St. Thomas”, “Oleo”, “Doxy” ve “Airegin”in de bulunduğu pek çok parçası caz standartlarına girmiştir.

Semler marka tenor saksafon kullanıyor.

Müziğe bakışını kendi cümleleriyle şu şekilde ifade ediyor:

Ben ifade gücünü artırmanın peşindeyim. İnsan duygularını tüm boyutlarıyla yansıtacak yetkinliğe ulaşmak, saksofonda insancıllıkla teknik ustalığı bir araya getirmek istiyorum. Öyle bir noktaya varmalıyım ki mesajım herkese ulaşsın, hayatı daha iyi kavramalarına, birbirlerini anlamalarına yardımcı olsun. Müziğimin en güçlü özelliği ritmik yapısı. Bu ritmi diğer ögelerle bir araya getirip, hayatın görünür ve görünmez yönlerini gösterecek bir müzik üretmek istiyorum. Belki bu müziği dinleyenler hayatın anlamını daha rahat anlayabilir.

İnsanoğlu zaman kavramını tüm boyutlarıyla kavrayamıyor. Zaman denilen fenomen nedir bilmiyoruz, akışını hissetmiyoruz. Benim uzun yıllar sahnede kalmama gelince… Evet, genç yaşta caz çalmaya başladım, uzun zamandır sahnedeyim, diğerlerine oranla uzun bir ömrüm oldu… Ama hâlâ öğreniyorum. Hâlâ her gün çalışıyorum. Hâlâ sekiz yaşında annemin ilk saksofon aldığı günkü gibi araştırıyorum, öğrenmeye çalışıyorum. Daha iyi bir müzikçi olmak için uğraşıyorum. Ve hâlâ 18 yaşındaki kadar heyecanla çalıyorum. Yani, geçmişle bugünün benim için farkı yok. Çok uzun zaman mı geçti, yoksa dün müydü, bilmiyorum, zamanın akışını hissetmiyorum. Bana tek ve uzun bir öykü gibi geliyor hayatım. Arada bir geri dönüp bakıyorum, “Charlie Parker sanki şimdi yanıbaşımdaydı, meğer ne kadar uzun zaman geçmiş üzerinden” diyorum. Pek çok müzikçi genç yaşta öldü. Ne kadar yaşadıkları değil, hangi noktaya ulaştıkları önemli. Mutlaka 70 yaşına ulaşmak gerekmiyor iyi şeyler üretmek için. Yaş ve hayat tecrübesi müzikçiye kuşkusuz çok şey kazandırıyor. Ama bu deneyim müziğe yansımayabilir. 20'li yaşlarında harika işler yapan, sonra oldukları yerde kalan pek çok sanatçı var. Yani yaşın tecrübeyi artırdığını, tecrübenin olgunlaşma getirdiğini, olgunlaşmanın sanatta ilerlemeye yol açtığını söylemek zor. Ben saksofon çalmak zorundayım, başka çarem yok. Daha iyi olmak için çalışıyorum. Buna karşın 1957'deki albümlerimi bugüne tercih edenler çıkabilir. Bunu anlayışla karşılamakla birlikte düne dönemem.

İki kez duvarla karşı karşıya kaldım. Yeni şeyler üretemediğimi gördüğümde, kendimi yenilemek için müziğe ara verdim. Her zaman söylenecek yeni bir söz vardır. “50 yıldır müzik yapıyorum, bitti, artık öğrenecek, söylenecek yeni bir şey kalmadı,” diyemezsiniz. En azından ben bunu söyleyemem. Bazı müzikçiler böyle düşünebilir, anlayışla karşılarım. Ben hep yeni şeyler öğrenmeyi, özümsemeyi, bir adım daha gitmeyi düşünen müzikçilerdendim. Miles Davis, John Coltrane gibi. Bu yaşta müziği bırakıp golfe odaklanmak iyi olabilirdi belki. Fakat bu benim hiç ilgimi çekmiyor. Müzik çalışmak, yeni şeyler öğrenmek, bunları sunmak istiyorum.

Piyanonun baskın karakterinden pek hoşlanmıyorum. Nefesli çalgıyı belirli bir yöne doğru yönlendirebiliyor. Çok fazla nota, akor katıyor müziğe. Dikkatimi dağıtıp beni yönlendirmesini sevmiyorum. Aynı özellik gitarda da var. Fakat gitarın, piyano armonilerini kullanarak müziği zenginleştirmesi de mümkün. Tommy Flanagan çok özel bir ruh, çok özel bir piyanistti. Solisti yönlendirmeden çalardı. Thelonious Monk da aynı şekilde. Ondan önce de piyanosuz, sadece bas ve davulla çalmıştım: Basta Oscar Peterson – davulda Max Roach, basta Ray Brown – davulda Shelly Mann, basta Wilbur Ware – davulda Elvin Jones … Bu tınıyı seviyorum.

Okyanus kıyısında saksofon çalmayı çok seviyorum. Bir de ulusal parklarda, tek başıma, doğayla başbaşa… Kimi zaman bir dağ başında. Doğayla başbaşa kalıp, iletişim kurabileceğim yerler bana cazip geliyor.