Grant Green's erste Schallplattenaufnahme als Bandleader, trägt den Titel "Grant's First Stand", und erschien im Jahr 1961. Noch im selben Jahr folgten die Alben "Green Street" und "Grantstand". Grant wurde quasi zum Hausgitarristen von Blue Note Records und unterstützte so gut wie jeden Solisten, der einen Gitarristen brauchte. Hierzu zählen namhafte Musiker wie die Saxophonisten Hank Mobley, Ike Quebeck, Stanley Turrentine und natürlich seinen Entdecker Lou Donaldson ebenso wie die in mittlerweile groß in Mode gekommenen Organisten wie Jimmy Smith und Big John Patton.

Blue Note hatte zwar auch den "Gitarren-Star" Kenny Burrell unter Vertrag, aber für die meisten Studiojobs war Grant Green die erste Wahl. Auch auf die New Yorker Jazz-Szene machte Grant offensichtlich großen Eindruck. Bei so viel Fleiß ist es nur folgerichtig, dass Grant's Ansehen und Einfluss schnell über die Grenzen von New York hinaus gingen. Im Jahr 1962 kürten ihn die Kritiker des renommierten Downbeat Jazz Magazins schließlich zum besten Newcomer des Jahres.

Im Jahre 1962 nahm Grant Green drei Konzeptalben auf. Auf Sunday Mornin' verarbeitete er Gospel, auf The Latin Bit lateinamerikanische Musik und auf Feelin' the Spirit, nomen est omen, eben Spirituals. Grant hatte mittlerweile ein gutes Gefühl dafür entwickelt, wie er eine gewisse Ausgewogenheit zwischen kommerziellen Erfolg und künstlerischer Befriedigung herstellen konnte. Seine Aufnahmen der Jahre 1963 und 1964 unterstreichen das. Die Alben Idle Moments (1963) und Solid (1964) wurden zu echten Meilensteinen und zählen heute zu den Pflichtalben für jeden angehenden Jazzgitarristen.

Im Jahre 1966 verließ Grant Green Blue Note Records und nahm einige Alben für unterschiedliche Label wie z. B. Verve Records und Muse auf. Zwischen 1967 und 1969 war der mittlerweile Drogensüchtige Grant Green inaktiv. Zu dieser Zeit feierte Wes Montgomery seine größten kommerziellen Erfolge und ein junges Talent namens George Benson entwickelte sich langsam aber sicher zum neuen Star unter den Jazzgitarristen.

In diesem Zeitabschnitt musste sich Grant Green intensiv mit der zeitgenössischen populären Musik, Motown, Stax und vor allen Dingen James Brown, auseinandergesetzt haben, denn als er die Szene erneut betrat, schien er musikalisch komplett umgekrempelt. Im Jahr 1969 war Grant wieder voll da. Seine neue Band war größer und klang elektrischer als die vorherigen. Bläser, E-Piano, Fender-Bass und Drummer Idris Muhammad sorgten vor allen Dingen für eines: nämlich eine fette Portion Funk.

Die Aufnahmen dieser Periode waren gemessen an den damaligen Jazzmaßstäben nicht besonders wertvoll, kommerziell erfolgreich waren sie jedoch allemal. Hierzu zählen die Alben "Green is Beautiful" und der Film-Soundtrack "The Final Comedown", alles echte Rare Groove Classics.