Books-A-Million foi fundado em 1917 em Florença, Alabama, como banca de jornais por Clyde W. Anderson, de 14 anos de idade, que abandonou a escola para sustentar a sua família após a morte do seu pai. Anderson viu uma oportunidade de negócio depois de trabalhadores da vizinha Barragem Wilson se queixarem que não conseguiam obter os jornais da sua cidade natal.
Em 1950, Charles C. Anderson, filho do fundador, herdou a loja e expandiu-a para uma cadeia. A empresa foi constituída como Bookland em 1964.
Até 1980, a empresa tinha 50 lojas.
Em 1988, a Bookland adquiriu a cadeia retalhista Gateway Books com sede em Knoxville, Tennessee. No mesmo ano, a empresa abriu a sua primeira loja em formato superstore.
Em 1992, a empresa mudou o seu nome para Books-A-Million, Inc. e tornou-se uma empresa pública através de uma oferta pública inicial de 2,6 milhões de acções a um preço de 13 dólares por acção.
Em 1998, a empresa lançou o seu website, booksamillion.com.
Em 25 de Novembro de 1998, durante a bolha dot-com, o preço das acções subiu de $3 por acção para $38,94 em 27 de Novembro de 1998 e um máximo intra-diário de $47,00 em 30 de Novembro de 1998, depois da empresa ter anunciado um website actualizado. Duas semanas mais tarde, o preço das acções desceu de novo para $10. Em 2000, o preço das acções tinha voltado a $3. Esses dias incluíam tempos de suspense para os comerciantes do dia, tais como quando as acções subiram 6 pontos em 13 minutos. Durante este tempo, os iniciados venderam centenas de milhares de acções.
Em 1999, a empresa adquiriu a NetCentral, o designer do seu website, e começou a operar a American Wholesale Book Company, um grossista e distribuidor de livros.
Em Abril de 2010, a empresa pagou $3 milhões por uma participação de 40% na Yogurt Mountain, um retalhista de iogurte congelado e franchisador.
Em Outubro de 2010, a empresa abriu locais da Yogurt Mountain nas suas livrarias.
Em Setembro de 2010, a empresa lançou 2ª & Charles, um comerciante de suportes usados, com a sua primeira loja em Hoover, Alabama, em frente a Riverchase Galleria. Nesse ano, abriu a sua primeira loja em North Alabama.
Em Dezembro de 2015, a empresa foi adquirida pelo seu presidente, Clyde B. Anderson, e pela sua família, por $21 milhões.
Em Novembro de 2016, a empresa começou a vender livros auto-publicados.