Coltrane’in “My Favorite Things”deki icrası sürükleyici ve hipnotik bir duyguya sahiptir. Daha sonra Coltrane sadece iki akoru olan parçalar kaydedecektir. 1961’de “Ole”yi ve “Impressions”ı kaydeder. 1962’de “Tunji” ve “Miles Mode” ve “Out of this World”ü kaydetmiştir.

Coltrane 1960’ların ikinci yarısında, çok basit armonik yapıların peşindeydi. Bu tek ya da iki akorlu armonik yapılar ona daha egzotik bir müzik yapmasını sağlıyordu. En çok da İspanyol ya da Hint havalarından hoşlanıyordu. Bu basit armonik yapı ona doğaçlamasında yeni armoniler eklemek ve değiştirmek açısından büyük özgürlük sağlıyordu. Ve en çok da tamamen esnek armonik formatlar ona büyük özgürlükler sağlıyordu. Örneğin 1965’te “Kulu Sé Mama” albümünde Elvin Jones’la yaptığı düetlerde olduğu gibi ve 1967’de kaydettiği “Interstaller Space” albümünde davulcu Rashied Ali’yle yaptığı düetlerde olduğu gibi. Armoik altyapısı basit parçalar yapmaya başlasa da, çetrefilli armoniler yaratma çabasının devam etmesi bir paradokstur. Coltrane’in armoniye olan tutkusu “Giant Steps”le bitmedi. Tekrarlayan bir bas figürünün üstüne, çok çetrefilli bir akor dizisinin üstüne çalıyormuş gibi çalardı. Bu yüzden bir yada iki akorun üstüne yaptığı sololar bu zengin tonlardı. “Impressions” adlı parçasında olduğu gibi tek bir melodik fikri dakikalar boyunca işlediği parçalar olsa da.

Miles Davis'in etkisi
Peki Coltrane’in modal müziğe ilgisi nereden geliyordu? Kendi başına ilgilenmiş olabilir ya da 1940’larda aldığı müzik eğitiminden kaynaklanmış olabilir. Miles Davis’le çalıştığı sırada “Milestones” albümündeki modal parçalardan ya da Miles Davis’le kaydettiği “Kind of Blue” albümünden kaynaklanmış olabilir. (Coltrane’in “Impressions” adlı parçasının formu ve akorları Miles Davis’in “So What” adlı parçasındaki form ve moduyla aynıdır, yalnızca melodisi değişiktir). Üçüncü olarak Coltrane'in modlara ilgisi bir dönem Afrika’nın Hindistan’ın yerel müziklerini incelemesinden de kaynaklanıyor olabilir. Coltrane caz dışındaki modeları incelemeye epey bir zaman harcamıştır. Birçok caz eleştirmeninin yaptığı gibi, Coltrane’in müziğini “modal caz” ya da “özgür caz” diye sınıflandırmak doğru değildir. Coltrane, 1960’larda yaptığı albümlerine popüler standartları ya da 12 ölçülük bluesları da dahil ederdi. klasik “Love Supreme” albümündeki “Pursuance” adlı parçası 12 ölçülük bir blues’dur.)

Coltrane altı yıl boyunca Miles Davis’in gruplarıyla birlikte çalmıştı. (Miles Davis’le yaptığı ilk kayıt 1955'teydi en sonucusu ise 1961’deydi). Bu dönemde, Coltrane birçok başka liderle de kayıt yapmıştı, kendi adına da kayıt yapmıştı, ama Davis’le konser vermeyi bırakana kadar kalıcı müzisyenlerden oluşan bir grubu olmamıştı hiç. İlk başta Coltrane birkaç grup üyesi denedi. Piyanist McCoy Tyner, basçı Steve Davis, ve davulcu Elvin Jones’tan oluşan bir grupta karar kıldı. Steve Davis 1960 ve 1961 yıllarında Coltrane’le kayıt yaptı. Sonra Jimmy Garisson, Steve Davis’in yerini aldı ve birkaç yıl Coltrane’in orkestrasında kalıcı olarak çalacaktı. Jimmy Garisson, Coltrane’in 60’larda kaydettiği birçok albümde var, Elvin Jones ve McCoy Tyner gruptan ayrıldıktan sonra bile Coltrane’le kalacaktı. Bu dörtlünün 1960’larda çok büyük etkisi vardı ve grup dağıldıktan sonra bile etkisini sürdürecekti. Etkisi özellikle Phoroah Sanders’ın, Bobby Hutcherson – Harold Land gruplarının, Dave Liebman’ın, McCoy Tyner’ın, Charles Lloyd’un, John Handy’nin ve Gato Barbieri’nin albümlerinde çok belirgindir.

Basçı Scott La Faro, Bill Evans’la ne yapıyorsa, davulcu Elvin Jones da John Coltrane’in dörtlüsüyle yapıyordu. Grup içi iletişim-etkileşime, bir Dixieland Jam Session’unda çalan bir nefesli kadar önem veriyordu. Bunun en bariz örneğini, “Sun Ship” (Sun Ship) ve “My Lady” (Live at Birdland) de görebiliriz. Coltrane dörtlüsünün bütün içeriği büyük ölçüde Elvin Jones’un interakftif stiline dayanıyordu. Jones, aynı anda çalan iki ya da üç davulcunun enerjisiyle çalıyordu. Hatta bu dörtlünün en vazgeçilmez elemanının Elvin Jones olduğunu bile öne sürebiliriz.

Davulcu Rashied Ali, Coltrane’in grubuna katıldığında, Elvin jones ayrıldı. Coltrane, iki davullu bir orkestra hayal etmişti. Elvin Jones ve McCoy Tyner, John Coltrane’in müzikte gittiği yönün onların anlayamayacağı bir boyuta geldiğini ileri sürerek ikisi de 1965’te gruptan ayrıldılar. Coltrane gittikçe soyut bir müzik yapıyordu.

Bölümlerin iç içeliği
Coltrane “ Quartet” in getirdiği en büyük yeniliklerden biri akıcı, bölümlerin birbirinin içine geçtiği bir müzik yaratmaktı. Bunun birkaç sebebi var: her ölçü başını hissettirmekten vazgeçemeleri, akorların sık sık değiştiği bir eşlik stilinden vazgeçmeleri, basit zil ritimlerinde ve yürüyen bas formüllerinden vazgeçmeleri, peşpeşe gelen sekizlik notalardan oluşan sololardan vazgeçmeleri.

Bu yeni, çokça taklit edilen yaklaşım, daha nefes alan, daha atmosferik, daha ağır ağır tansiyon yaratmaya yönelik bir müziğin ortaya çıkmasına sebep oldu. Grup sonradan her zaman çözülen bir “havada asılı kalma” duygusu yaratıyordu. Grup, caza yeni bir duygu getirmişti, çünkü tamamen kendilerine has bir takım teknikler geliştirdiler. Örneğin dinleyicinin tek bir mood’da kalmasını sağlamak. Melodi ve soloların iki ayrı bölümden oluşmasından ziyade, parçaya melodiye ve sololara ayrı olmadığı bir bütünlük kazandırmak. Ayrıca, tutulan ve tekrarlanan bas notaları, birkaç vuruştan daha fazla süre tekrarlanan davul figürleri. Piyano akorlarının uzun tınlamasını sağlanması, uzun süre tek bir mode kullanmak (ya da iki akorlu figürler), tek bir hedef notaya ulaşmak için, bir rapsodi etkisi yaratmak için, tek bir hedef notanın, o notaya ulaşmadan etrafında dolaşmak için saksofonun bütün yelpazesini kullanan ve zamanlaması doğru olan uzun saksofon glissandolar, saksofon sololarında uzun tutulan notalar bu tekniklerden bazılarıydı.

Coltrane için kavga etmek
John Coltrane, dinleyicileri üzerinde büyük bir etki yaratıyordu. Basında, onun müziğinden nefret edenler ve onun müziğine aşık olanlar kavga ediyorlardı. Bazıları cazın Coltrane’le bittiğini öne sürerken, bazıları cazın onunla başladığını iddia ediyordu. Coltrane, grubunu kurduktan sonra, o kadar çok saksofoncu onu taklit ediyordu ki, eleştirmenler Coltrane dışında yeni özgün bir ses duyamamaktan şikayetçiydi. 1950’lerde de Charlie Parker taklitçileri yüzünden aynı şey yaşanmıştı. Coltrane yavaş yavaş müzik okullarında akademik analizlerin konusu oluyordu. Ve 1980’lerde, Coltrane’in müziğini teknik açıdan değerlendiren bir dizi kitap yayınlandı. Örneğin Andrew White, Coltrane’e o kadar hayrandı ki 400’den fazla solosunu notaya döktü.

Coltrane’in her bir dönemi, müzisyenlerin Coltrane’in yaygınlaştırdığı teknikleri incelemesine neden oldu. İncelenen ilk başta bol notalı çalış ve zor akor dizileriydi. Coltrane'in standart parçaların akorlarını tekrar düzenleme şekli, birçok müzisyeni standart parçalarını tekrar düzenleme konusunda esinlendirdi. Müzisyenler, “Giant Steps” ya da “Countdown” parçalarındaki akor dizilerine benzer akor dizileri yazıyorlardı. Daha sonra modal müzik ve pedal point'ların olduğu döneme ilgi duydular. Daha sonra da, toplu doğaçlama dönemine ilgi duyanlar oldu. Bu toplu doğaçlamalarda melodiden çok doku önemliydi.

Hatırı sayılır bir müzisyen topluluğu, Coltrane’i liderleri olarak kabul etmişti sanki, ve Coltrane yeni bir şey yapana kadar kendi fikirlerini ertelemeye kara vermişti. Oldukça özgün sayılan müzisyenler bile Coltrane’in etkisini kendi eserlerinde görüyorlardı. Chick Corea “Litha” ve “Straight Up and Down” adlı parçaların ardındaki ilham kaynağı olarak John Coltrane’i gösterir. Corea, “Is” albümünün ilham kaynağının Coltrane “Meditations” ve “Ascenscion” alübmleri olduğunu söyler. “A love Supreme” albümü John McLaughlin ve Carlos Santana tarafından kaydedilmişti. “Naima” ve “Giant Steps” caz müzisyenlerinin standart repertuarındadır.