Las big bands aparecen como resultado de la expansión del jazz de Nueva Orleans, y se produce a consecuencia de los cambios que el concepto de arreglo musical experimenta en el Estilo Nueva York, a mediados de la década de 1920, que tienen como consecuencia final la aparición del Swing.
Aunque ya en 1921 encontramos grabaciones de bandas de diez miembros o más, como es el caso de Paul Whiteman, es hacia 1926 cuando se pueden encontrar los primeros indicios de sonoridades propias de las big bands, incluso en grupos típicamente Hots, como los Red Hot Peppers de Jelly Roll Morton, o la orquesta de Henry Halstead. No obstante, todos los autores coinciden en señalar a Fletcher Henderson como el artífice del comienzo de la historia de las big bands. Desde 1921, Henderson había trabajado con bandas de más de nueve músicos, que hacían jazz tradicional (por ejemplo, entre 1925 y 1928, su grupo se llamaba, significativamente, Dixie Stompers). A finales de la década, el grupo se había configurado claramente en secciones instrumentales, por el procedimiento de duplicar o triplicar cada uno de los instrumentos de viento de la banda hot típica: trompeta, trombón y clarinete (paulatinamente sustituidos por saxos), realizándose arreglos instrumentales para cada sección. No sólo Henderson siguió esta línea de cambio imperceptible, sino otros músicos como Luis Russell, que se hizo cargo en 1929 de la banda de King Oliver, y que fue el primero en llamar a su grupo Big Band; o los Cotton Pickers del baterista William McKinney, dirigidos primero por Don Redman y, después, por Benny Carter; o el mismo Duke Ellington, cuya banda The Washingtonians desarrolló cambios conceptuales verdaderamente revolucionarios.
Este proceso, y la misma aparición de las big bands, no suscitó inicialmente un favor unánime de los aficionados, y un sector importante de la crítica musical (Ortiz Orderigo, Hughes Panassié, Ernest Borneman...) las consideró de forma muy negativa, por dejar la creación espontánea relegada a un segundo plano o suprimida, a la vez que tildaban al Swing de retroceso en el cosmos del arte sincopado. Peter Clayton, señala expresamente que el término big band fue usado inicialmente con sentido despreciativo, para señalar a bandas que se habían separado de la ortodoxia. Sin embargo, como señala Berendt, la visión posterior sobre la aparición del jazz de gran banda con Fletcher Henderson, tiende a considerar que, al contrario de lo señalado por los críticos conservadores, los músicos hallaron en el nuevo formato una gran libertad y así lo reconocía ya, en 1932, el crítico y productor John Hammond
