Służba w wojnie secesyjnej
W maju 1861 roku Sherman został mianowany pułkownikiem w 13. Pułku Piechoty Stanów Zjednoczonych i powierzono mu dowództwo brygady pod dowództwem generała Williama McDowella w Waszyngtonie. Walczył w pierwszej bitwie pod Bull Run, w której wojska Unii zostały ciężko pobite. Następnie został wysłany do Kentucky i stał się głęboko pesymistycznie nastawiony do wojny, narzekając swoim przełożonym na niedobory i wyolbrzymiając siłę oddziałów wroga. W końcu został przeniesiony na urlop, uznany za niezdolnego do służby. Prasa podchwyciła jego problemy i opisała go jako „szalonego”. Uważa się, że Sherman cierpiał na załamanie nerwowe.
W połowie grudnia 1861 r. Sherman powrócił do służby w Missouri i otrzymał dowództwo w tylnej części korpusu. W Kentucky zapewnił wsparcie logistyczne dla zdobycia Fortu Donelson przez generała brygady Ulyssesa S. Granta w lutym 1862 roku. W następnym miesiącu Sherman został przydzielony do służby u boku Granta w Armii Zachodniego Tennessee. Jego pierwszy sprawdzian jako dowódcy w walce nastąpił pod Shiloh.
Podobnie obawiając się ponownej krytyki za zbytnie zaalarmowanie, Sherman początkowo odrzucił doniesienia wywiadu, że konfederacki generał Albert Sidney Johnston jest w okolicy. Nie podjął żadnych środków ostrożności, by wzmocnić linie pikiet lub wysłać patrole zwiadowcze. Rankiem 6 kwietnia 1862 roku Konfederaci uderzyli z piekielną furią. Sherman i Grant zmobilizowali swoje oddziały i do końca dnia odepchnęli ofensywę rebeliantów. Dzięki posiłkom, które nadeszły tej nocy, wojska Unii były w stanie przeprowadzić kontratak następnego ranka, rozrzucając oddziały Konfederatów. To doświadczenie połączyło Shermana i Granta przyjaźnią na całe życie.
Sherman pozostał na Zachodzie, służąc z Grantem w długiej kampanii przeciwko Vicksburgowi. Jednak prasa nie szczędziła krytyki pod adresem obu panów. Jedna z gazet narzekała, że „armia została zrujnowana w wyprawach po błoto-żółwie, pod dowództwem pijaka, którego poufnym doradcą był szaleniec”. W końcu Vicksburg upadł, a Sherman otrzymał dowództwo nad trzema armiami na Zachodzie.
Ewolucja w kierunku „wojny totalnej”
W lutym 1864 roku Sherman rozpoczął kampanię z Vicksburga w Missisipi, mającą na celu zniszczenie centrum kolejowego w Meridian i usunięcie konfederackiego oporu z centralnej części Missisipi. W Meridian, które znajdowało się pomiędzy stolicą stanu, Jackson, a odlewnią armat i centrum produkcji w Selma w Alabamie, krzyżowały się trzy linie kolejowe. Czas był na wagę złota, więc armia Shermana odcięła linie zaopatrzeniowe z Vicksburga i zajęła się zdobywaniem pożywienia na lądzie. Konfederaci, pod dowództwem generała Leonidasa Polka, stawili pewien opór, ale jego 10 000 żołnierzy nie mogło się równać z 45 000 żołnierzy Unii. Sherman ruszył na zachód od Vicksburga i stosował taktykę pozorowaną, by utrzymać siły Polka w odwodzie, chroniąc Mobile w Alabamie. 11 lutego 1864 roku armia Shermana zaatakowała i zniszczyła centrum kolejowe w Meridian, a następnie rozproszyła oddziały w czterech kierunkach, niszcząc tory kolejowe, mosty, estakady i wszelkie urządzenia kolejowe na swojej drodze. Było to preludium do „marszu Shermana na morze” w Georgii i ważny kamień milowy w ewolucji strategii w wojnie secesyjnej, nieubłaganie zmierzającej do „wojny totalnej”.
W początkach września 1864 roku, pod ciężkim oblężeniem, konfederacki gen. John Bell Hood i jego ludzie zostali zmuszeni do ewakuacji Atlanty, niszcząc tyle zapasów i amunicji, ile zdołali, zanim Sherman zajął Atlantę i ostatecznie spalił to, co z niej zostało. Z 60 000 ludzi rozpoczął swój słynny „Marsz ku morzu”, przedzierając się przez Georgię 60-milową ścieżką całkowitego zniszczenia. Sherman zrozumiał, że aby wygrać wojnę i ocalić Unię, jego armia będzie musiała złamać wolę walki Południa. W tej strategii wojskowej, znanej jako „wojna totalna”, nakazano zniszczyć wszystko.
Kiedy Grant został prezydentem w 1869 roku, Sherman objął stanowisko generalnego dowódcy armii amerykańskiej. Jednym z jego obowiązków była ochrona budowy linii kolejowych przed atakami wrogich Indian. Wierząc, że rdzenni Amerykanie są przeszkodą w postępie, nakazał całkowite zniszczenie walczących plemion. Pomimo surowego traktowania rdzennych Amerykanów, Sherman wypowiadał się przeciwko pozbawionym skrupułów urzędnikom państwowym, którzy źle traktowali ich w rezerwatach.