Books-A-Million fue fundada en 1917 en Florence, Alabama, como un quiosco de prensa por Clyde W. Anderson, de 14 años, que abandonó la escuela para mantener a su familia tras la muerte de su padre. Anderson vio una oportunidad de negocio después de que los trabajadores de la cercana presa Wilson se quejaran de que no podían conseguir los periódicos de su ciudad.
En 1950, Charles C. Anderson, hijo del fundador, heredó la tienda y la amplió hasta convertirla en una cadena. La empresa se constituyó como Bookland en 1964.
En 1980, la empresa contaba con 50 tiendas.
En 1988, Bookland adquirió la cadena de tiendas Gateway Books con sede en Knoxville, Tennessee. Ese mismo año, la empresa abrió su primera tienda con formato de supertienda.
En 1992, la empresa cambió su nombre a Books-A-Million, Inc. y se convirtió en una empresa pública a través de una oferta pública inicial de 2,6 millones de acciones a un precio de 13 dólares por acción.
En 1998, la empresa lanzó su sitio web, booksamillion.com.
El 25 de noviembre de 1998, durante la burbuja de las puntocom, el precio de las acciones se disparó desde los 3 dólares por acción hasta los 38,94 dólares el 27 de noviembre de 1998 y un máximo intradiario de 47 dólares el 30 de noviembre de 1998 después de que la empresa anunciara un sitio web actualizado. Dos semanas después, el precio de la acción volvió a bajar a 10 dólares. En el año 2000, el precio de la acción había vuelto a los 3 dólares. Esos días incluyeron momentos de suspense para los operadores del día, como cuando la acción subió 6 puntos en 13 minutos. Durante este tiempo, las personas con información privilegiada vendieron cientos de miles de acciones.
En 1999, la empresa adquirió NetCentral, el diseñador de su sitio web, y comenzó a operar American Wholesale Book Company, un mayorista y distribuidor de libros.
En abril de 2010, la empresa pagó 3 millones de dólares por una participación del 40% en Yogurt Mountain, un minorista y franquiciador de yogur congelado.
En octubre de 2010, la empresa abrió locales de Yogurt Mountain en sus librerías.
En septiembre de 2010, la empresa lanzó 2nd & Charles, un comerciante de medios usados, con su primera tienda en Hoover, Alabama, frente a Riverchase Galleria. Ese año, abrió su primera tienda en el norte de Alabama.
En diciembre de 2015, la empresa fue adquirida por su presidente, Clyde B. Anderson, y su familia, por 21 millones de dólares.
En noviembre de 2016, la empresa comenzó a vender libros autoeditados.