Books-A-Million werd in 1917 in Florence, Alabama, opgericht als krantenkiosk door de 14-jarige Clyde W. Anderson, die na de dood van zijn vader van school was gegaan om zijn gezin te onderhouden. Anderson zag een zakelijke kans nadat arbeiders op de nabijgelegen Wilson Dam klaagden dat ze hun plaatselijke kranten niet konden krijgen.
In 1950 erfde Charles C. Anderson, de zoon van de oprichter, de winkel en bouwde deze uit tot een keten. Het bedrijf werd in 1964 opgericht als Bookland.
Tegen 1980 had het bedrijf 50 winkels.
In 1988 nam Bookland de winkelketen Gateway Books over, gevestigd in Knoxville, Tennessee. In datzelfde jaar opende het bedrijf zijn eerste winkel in superstore-formaat.
In 1992 veranderde het bedrijf zijn naam in Books-A-Million, Inc. en werd het een naamloze vennootschap via een beursgang van 2,6 miljoen aandelen tegen een prijs van $13 per aandeel.
In 1998 lanceerde het bedrijf zijn website, booksamillion.com.
Op 25 november 1998, tijdens de dot-com bubble, steeg de aandelenkoers van $3 per aandeel naar $38,94 op 27 november 1998 en een intra-day high van $47,00 op 30 november 1998 nadat het bedrijf een vernieuwde website had aangekondigd. Twee weken later was de prijs van het aandeel teruggezakt tot $10. Tegen 2000 was de aandelenkoers teruggevallen tot $3. Die dagen waren spannend voor daghandelaars, zoals toen het aandeel in 13 minuten 6 punten omhoog ging. In die tijd verkochten insiders honderdduizenden aandelen.
In 1999 kocht het bedrijf NetCentral, de ontwerper van zijn website, en begon het met de exploitatie van American Wholesale Book Company, een boekengroothandel en -distributeur.
In april 2010 betaalde het bedrijf 3 miljoen dollar voor een aandeel van 40% in Yogurt Mountain, een detailhandelaar in frozen yogurt en franchisegever.
In oktober 2010 opende het bedrijf Yogurt Mountain-vestigingen in zijn boekwinkels.
In september 2010 lanceerde het bedrijf 2nd & Charles, een handelaar in gebruikte media, met zijn eerste winkel in Hoover, Alabama tegenover Riverchase Galleria. Dat jaar opende het zijn eerste winkel in Noord-Alabama.
In december 2015 werd het bedrijf overgenomen door de voorzitter, Clyde B. Anderson, en zijn familie, voor 21 miljoen dollar.
In november 2016 begon het bedrijf met de verkoop van zelfgepubliceerde boeken.