Mary Eliza Mahoney wurde 1845 in Dorchester, Massachusetts, geboren. Mahoneys Eltern waren befreite Sklaven, die ursprünglich aus North Carolina stammten und vor dem amerikanischen Bürgerkrieg in den Norden zogen, um ein Leben mit weniger Rassendiskriminierung zu führen. Mahoney war das ältere von zwei Kindern, wobei ein Geschwisterteil schon früh im Kindesalter starb. Schon in jungen Jahren war Mahoney ein gläubiger Baptist und Kirchgänger, der häufig die People’s Baptist Church in Roxbury besuchte. Mahoney wurde im Alter von 10 Jahren in die Phillips School aufgenommen, eine der ersten integrierten Schulen in Boston, und blieb von der ersten bis zur vierten Klasse. Die Phillips School war dafür bekannt, dass sie ihren Schülern neben allgemeinen Fächern wie Englisch, Geschichte und Arithmetik auch den Wert von Moral und Menschlichkeit lehrte. Es wird gesagt, dass dieser Unterricht Mahoneys frühes Interesse an der Krankenpflege beeinflusste.
Mahoney wusste schon früh, dass sie Krankenschwester werden wollte; möglicherweise aufgrund des unmittelbaren Aufkommens von Krankenschwestern während des amerikanischen Bürgerkriegs. Schwarze Frauen hatten es im 19. Jahrhundert oft schwer, ausgebildete und lizenzierte Krankenschwestern zu werden. Krankenpflegeschulen im Süden lehnten Bewerbungen von Afroamerikanerinnen ab, während im Norden, obwohl die Möglichkeiten immer noch stark eingeschränkt waren, Afroamerikanerinnen eine größere Chance auf die Aufnahme in Ausbildungs- und Graduiertenprogramme hatten. Als das New England Hospital for Women and Children gegründet wurde, begann sie sich bereits mit 18 Jahren für die Krankenpflege zu interessieren. Das NEHWC war die erste Institution, die ein Programm anbot, das es Frauen ermöglichte, auf den Eintritt in die überwiegend von Männern geführte Gesundheitsbranche hinzuarbeiten. Im Alter von 33 Jahren wurde sie 1878 zusammen mit 39 anderen Studentinnen in ein 16-monatiges Programm am New England Hospital for Women and Children (dem heutigen Dimock Community Health Center) aufgenommen. Ihre Schwester, Ellen Mahoney, entschied sich ebenfalls für das gleiche Krankenpflegeprogramm, konnte aber ihr Diplom nicht erhalten. Die Kriterien, die das Krankenhaus bei der Auswahl der Studenten für ihr Programm anwandte, betonten, dass die 40 Bewerber „gesund und kräftig, zwischen 21 und 31 Jahren alt sein und einen guten Ruf in Bezug auf Charakter und Veranlagung haben sollten“. Aus einer Klasse von 40 Studenten waren sie und zwei andere weiße Frauen die einzigen, die ihren Abschluss erhielten. Es wird vermutet, dass die Verwaltung Mahoney, obwohl sie die Alterskriterien nicht erfüllte, wegen ihrer Verbindung zum Krankenhaus akzeptierte, da sie dort bereits als 18-Jährige als Köchin, Dienstmädchen und Wäscherin gearbeitet hatte. Mahoney arbeitete in den 15 Jahren, in denen sie als Hilfskraft tätig war, fast 16 Stunden täglich.
Mahoneys Ausbildung erforderte, dass sie mindestens ein Jahr auf den verschiedenen Stationen des Krankenhauses verbrachte, um universelle Pflegekenntnisse zu erwerben. Die Arbeit im Rahmen des Programms war intensiv und bestand aus langen Tagen mit einer Schicht von 5:30 Uhr bis 21:30 Uhr, wobei Mahoney Vorlesungen und Unterricht besuchen musste, um sich durch die Anweisungen der Ärzte auf der Station weiterzubilden. Diese 12-stündigen Vorlesungen bestanden aus Familienpflege, physiologischen Fächern, Krankenkost, chirurgischer Krankenpflege, Kinderbettenpflege, Desinfektionsmitteln und allgemeiner Krankenpflege. Außerhalb der Vorlesungen wurden den Studenten viele wichtige Verfahren am Krankenbett beigebracht, wie z.B. das Erfassen von Vitalzeichen und das Anlegen von Verbänden. Darüber hinaus arbeitete Mahoney mehrere Monate lang als Krankenschwester im Privatdienst. Das Krankenpflegeprogramm ermöglichte es den Studenten, nach den ersten zwei Wochen einen Wochenlohn von 1 bis 4 Dollar zu verdienen. Viele Krankenschwestern sahen den Wochenlohn nicht als bedeutsam an, da viele von ihnen mit finanziellen Problemen zu kämpfen hatten und daher 25 % ihres Lohns als finanzielle Unterstützung an das Krankenhaus zurückgaben. Drei Viertel des Programms bestanden darin, dass die Krankenschwestern auf einer chirurgischen, einer Entbindungs- oder einer medizinischen Station arbeiteten, auf der sie für die Pflege von sechs Patienten verantwortlich waren. In den letzten zwei Monaten des umfangreichen 16-monatigen Programms mussten die Krankenschwestern ihre neu erworbenen Kenntnisse und Fähigkeiten in Umgebungen anwenden, die sie nicht gewohnt waren, wie z. B. Krankenhäuser oder private Familienhäuser.
Nach Abschluss dieser Anforderungen machte Mahoney 1879 zusammen mit drei anderen Kolleginnen ihren Abschluss als examinierte Krankenschwester – die erste schwarze Frau, die dies in den Vereinigten Staaten tat.