Mary Eliza Mahoney nació en 1845 en Dorchester, Massachusetts. Los padres de Mahoney eran esclavos liberados, originarios de Carolina del Norte, que se trasladaron al norte antes de la Guerra Civil estadounidense en busca de una vida con menos discriminación racial. Mahoney era el mayor de dos hermanos, uno de los cuales murió cuando era niño. Desde muy joven, Mahoney fue un devoto bautista y asistente a la iglesia que acudía con frecuencia a la People’s Baptist Church de Roxbury. Mahoney fue admitido en la Phillips School a los 10 años, una de las primeras escuelas integradas de Boston, y permaneció desde el primer hasta el cuarto grado. La Phillips School era conocida por enseñar a sus alumnos el valor de la moralidad y la humanidad, además de asignaturas generales como inglés, historia y aritmética, entre otras. Se dice que esta enseñanza influyó en el temprano interés de Mahoney por la enfermería.
Mahoney supo muy pronto que quería ser enfermera; posiblemente debido a ver la inmediata aparición de enfermeras durante la Guerra Civil estadounidense. Las mujeres negras del siglo XIX solían tener dificultades para formarse y obtener la licencia de enfermeras. Las escuelas de enfermería del Sur rechazaban las solicitudes de las mujeres afroamericanas, mientras que en el Norte, aunque las oportunidades seguían siendo muy limitadas, las afroamericanas tenían más posibilidades de ser aceptadas en los programas de formación y posgrado. Cuando se creó el New England Hospital for Women and Children, empezó a mostrar interés por la enfermería a los 18 años. El NEHWC se convirtió en la primera institución que ofrecía un programa que permitía a las mujeres trabajar para entrar en la industria sanitaria, que estaba dirigida predominantemente por hombres. Fue admitida en un programa de 16 meses en el New England Hospital for Women and Children (ahora el Dimock Community Health Center) a la edad de 33 años, junto con otras 39 estudiantes, en 1878. Su hermana, Ellen Mahoney, también decidió asistir al mismo programa de enfermería, pero no logró obtener su diploma. Los criterios que utilizaba el hospital para elegir a las estudiantes para su programa hacían hincapié en que las 40 aspirantes debían estar «bien y fuertes, tener entre 21 y 31 años y una buena reputación en cuanto a carácter y disposición». De una clase de 40 estudiantes, ella y otras dos mujeres blancas fueron las únicas que recibieron su título. Se presume que la administración aceptó a Mahoney, a pesar de no cumplir los criterios de edad, por su conexión con el hospital a través de un trabajo previo como cocinera, criada y lavandera allí cuando tenía 18 años. Mahoney trabajó casi 16 horas diarias durante los 15 años que trabajó como obrera.
La formación de Mahoney requería que pasara al menos un año en las distintas salas del hospital para adquirir conocimientos de enfermería universal. El trabajo dentro del programa era intensivo y consistía en largas jornadas con un turno de 5:30 A.M. a 9:30 P.M., lo que requería que Mahoney asistiera a conferencias y lecciones para educarse a través de la instrucción de los médicos en la sala. Estas clases de 12 horas consistían en la enfermería en las familias, temas fisiológicos, alimentación de los enfermos, enfermería quirúrgica, enfermería en camas de niños, desinfectantes y enfermería general. Además de las clases, se enseñaba a los estudiantes muchos procedimientos importantes junto a la cama, como la toma de constantes vitales y el vendaje. Además, Mahoney trabajó durante varios meses como enfermera privada. El programa de enfermería permitía a los estudiantes ganar un salario semanal, que oscilaba entre 1 y 4 dólares, después de sus dos primeras semanas de trabajo. Muchas enfermeras no veían el salario semanal como algo significativo, ya que muchas de ellas tenían problemas económicos y, por lo tanto, devolvían el 25% de su salario en concepto de ayuda económica al hospital. Las tres cuartas partes del programa consistían en que las enfermeras trabajaban en una sala de cirugía, maternidad o medicina con seis pacientes a los que debían atender. Los dos últimos meses del extenso programa de 16 meses de duración requerían que las enfermeras utilizaran sus nuevos conocimientos y habilidades en entornos a los que no estaban acostumbradas; como hospitales o casas de familia privadas.Después de completar estos requisitos, Mahoney se graduó en 1879 como enfermera registrada junto a otras 3 colegas – la primera mujer negra en hacerlo en los Estados Unidos.