Mary Eliza Mahoney nasceu em 1845 em Dorchester, Massachusetts. Os pais de Mahoney foram escravos libertados, originalmente da Carolina do Norte, que se mudaram para o norte antes da Guerra Civil Americana, em busca de uma vida com menos discriminação racial. Mahoney era o mais velho de duas crianças; com um irmão a morrer prematuramente quando criança. Ainda jovem, Mahoney era um baptista devoto e frequentador da Igreja Baptista Popular em Roxbury. Mahoney foi admitido na Escola Phillips aos 10 anos de idade, uma das primeiras escolas integradas em Boston, e permaneceu da primeira à quarta classe. A Escola Phillips era conhecida por ensinar aos seus alunos o valor da moralidade e da humanidade, juntamente com disciplinas gerais como o Inglês, História, Aritmética, e muito mais. Diz-se que esta instrução influenciou o interesse inicial de Mahoney pela enfermagem.
Mahoney sabia desde cedo que queria tornar-se enfermeira; possivelmente devido ao surgimento imediato de enfermeiros durante a Guerra Civil Americana. As mulheres negras no século XIX tiveram muitas vezes dificuldade em tornar-se enfermeiras formadas e licenciadas. As escolas de enfermagem no Sul rejeitaram candidaturas de mulheres afro-americanas, enquanto que no Norte, embora a oportunidade fosse ainda muito limitada, as afro-americanas tiveram uma maior oportunidade de serem aceites em programas de formação e pós-graduação. Assim que o New England Hospital for Women and Children foi criado, ela começou a mostrar interesse em enfermagem aos 18 anos de idade. O NEHWC tornou-se a primeira instituição a oferecer um programa que permitisse às mulheres trabalhar no sentido de entrarem na indústria dos cuidados de saúde, que era predominantemente dirigida por homens. Foi admitida num programa de 16 meses no New England Hospital for Women and Children (actualmente o Dimock Community Health Center) aos 33 anos de idade, juntamente com outros 39 estudantes, em 1878. A sua irmã, Ellen Mahoney, também decidiu frequentar o mesmo programa de enfermagem, mas não conseguiu obter o seu diploma. Os critérios utilizados pelo hospital na escolha dos estudantes para o seu programa sublinhavam que os 40 candidatos estariam “bem e fortes, entre os 21 e 31 anos, e teriam uma boa reputação quanto ao carácter e disposição”. De uma turma de 40 estudantes, ela e duas outras mulheres brancas foram as únicas a receber o seu diploma. Presume-se que a administração aceitou Mahoney, apesar de não satisfazer os critérios de idade, devido à sua ligação ao hospital através do seu trabalho prévio como cozinheira, empregada e lavadeira quando ela tinha 18 anos de idade. Mahoney trabalhou quase 16 horas diárias durante os 15 anos em que trabalhou como operária.
A formação de Mahoney exigia que ela passasse pelo menos um ano nas várias enfermarias do hospital para adquirir conhecimentos universais de enfermagem. O trabalho dentro do programa era intensivo e consistia em longos dias com um turno das 5:30 da manhã às 9:30 da noite, exigindo Mahoney a assistir a palestras e aulas para se educar através da instrução de médicos na enfermaria. Estas aulas de 12 horas consistiram em enfermagem familiar, assuntos fisiológicos, alimentação para os doentes, enfermagem cirúrgica, enfermagem infantil, desinfectantes, e enfermagem geral. Fora das aulas, os alunos foram ensinados muitos procedimentos importantes na cabeceira da cama, tais como tomar sinais vitais e ligaduras. Além disso, Mahoney trabalhou durante vários meses como enfermeira de serviço privado. O programa de enfermagem permitiu aos estudantes ganharem um salário semanal, variando entre 1 a 4 dólares, após as suas duas primeiras semanas de trabalho. Muitas enfermeiras não consideravam o salário semanal tão significativo, uma vez que muitas delas se debatiam financeiramente e, por conseguinte, devolviam 25% do seu salário para assistência financeira ao hospital. Três quartos do programa consistiam nas enfermeiras que trabalhavam numa ala cirúrgica, maternidade ou médica com seis pacientes que eram responsáveis por cuidar. Os últimos dois meses do extenso programa de 16 meses exigiam que as enfermeiras utilizassem os seus novos conhecimentos e competências em ambientes a que não estavam habituadas; tais como hospitais ou lares familiares privados.Após completar estes requisitos, Mahoney formou-se em 1879 como enfermeira registada juntamente com 3 outros colegas – a primeira mulher negra a fazê-lo nos Estados Unidos.