Arby’s werd op 23 juli 1964 in Boardman, Ohio, opgericht door Forrest (1922-2008) en Leroy Raffel, eigenaars van een bedrijf in restaurantbenodigdheden die dachten dat er een marktkans was voor een fastfoodfranchise op basis van een ander gerecht dan hamburgers. De broers wilden hun restaurants “Big Tex” noemen, maar die naam werd al gebruikt door een zaak in Akron. In plaats daarvan kozen ze de naam “Arby’s,” gebaseerd op R. B., de initialen van Raffel Brothers; hoewel vaak verward met Roast Beef.
De gebroeders Raffel openden het eerste nieuwe restaurant in Boardman, Ohio, net buiten Youngstown, op 23 juli 1964. Aanvankelijk serveerden ze alleen broodjes rosbief, aardappelchips en frisdrank. In de hoop een meer luxueuze klantenkring aan te trekken, was het interieur van Arby’s opzettelijk luxueuzer van uiterlijk dan de typische fast food broodjeskraam van die tijd. Arby’s bood haar rosbief sandwiches aan voor $.69 in een tijd dat hamburgers $.15 rekenden voor een hamburger. Een jaar later opende de eerste Arby’s licentiehouder een restaurant in Akron, Ohio. De beroemde Arby’s “hoed” werd ontworpen door de oorspronkelijke signmakers, Peskin Sign Co.
Tijdens de jaren zeventig vond de uitbreiding van Arby’s plaats met een tempo van 50 winkels per jaar. In deze periode werden verschillende menu-items gecreëerd, waaronder de Beef ’n Cheddar, Jamocha Shakes, kipsandwiches, Curly Fries, en twee kenmerkende sauzen: Arby’s Sauce en Horsey Sauce. Gebakken aardappelen werden in 1985 aan het menu toegevoegd. Curly Fries werden aanvankelijk geïntroduceerd als Curly-Q Fries in 1988. Het werd het eerste restaurant in de fast food industrie dat een compleet “lite” menu aanbood in 1991 met verschillende sandwiches en salades onder de 300 calorieën en 94 procent vetvrij.
Het familiebedrijf probeerde zich in 1970 om te vormen tot een overheidsbedrijf door de verkoop van aandelen aan te bieden, maar de beursgang ging nooit door toen de aandelenmarkt vervolgens daalde. In 1976 verkocht de familie het bedrijf aan Royal Crown Cola Company voor $18 miljoen en Leroy Raffel bleef als CEO tot zijn pensioen drie jaar later.
In 1984 verkreeg Victor Posner Arby’s via een vijandige overname van de toenmalige moedermaatschappij Royal Crown via zijn DWG Corporation. Negen jaar later, met een nieuwe eigenaar van DWG Corporation en een nieuwe naam, Triarc Companies, Inc., werd een voormalige PepsiCo executive, Don Pierce, binnengehaald om Arby’s te “herrijzen”. Met $100 miljoen extra financiering, stapte Pierce in 1996 over op een nieuw “Roast Town” concept, vergelijkbaar met Boston Market. Het Roast Town-concept kreeg slechte cijfers in markttests en werd al snel stopgezet. Pierce en zijn team verlieten het bedrijf en het verkocht al zijn 354 bedrijfsvestigingen aan RTM Restaurant Group, een bestaande Arby’s franchise, voor 71 miljoen dollar. Een ander marketingconcept dat werd uitgeprobeerd was een dual-brand venture die in 1995 werd gestart met ZuZu’s Handmade Mexican Grill. De marketing-venture was een mislukking die resulteerde in rechtszaken die door elk bedrijf tegen de ander werden aangespannen.
In 1992 opende Les Franchises P.R.A.G. Inc. de eerste Arby’s franchise in de Canadese provincie Quebec. Het was tevens de 100ste vestiging die in Canada werd geopend en sluit zich aan bij andere vestigingen die toen actief waren in de provincies Ontario, Alberta, New Brunswick, Nova Scotia, Manitoba, British Columbia, en Saskatchewan. De vestiging in Quebec verkocht ook het uniek Frans-Canadese gerecht genaamd poutine.
In 2002 keerde Arby’s terug naar het uitbaten van restaurants door de op één na grootste Arby’s franchisenemer, Sybra Inc, met 293 vestigingen uit faillissement te kopen en zo RTM te overbieden om te voorkomen dat RTM te groot zou worden. RTM werd op 25 juli 2005 door Arby’s gekocht.
In november 2002 spande Access Now een rechtszaak aan tegen RTM, toen een franchise van Triarc, dat ongeveer 800 van hun winkels niet voldeden aan de Americans with Disabilities Act van 1990 (ADA). De rechtszaak had geen aansprakelijkheidsschadevergoeding behalve advocaatkosten. In augustus 2006 aanvaardde de rechtbank de schikking tussen RTM en Access Now. Het resultaat was dat elk jaar 100 van de RTM-winkels zouden worden aangepast om aan de ADA te voldoen. Dienovereenkomstig werd geschat dat ongeveer $ 1,2 miljoen zou worden uitgegeven om die winkels elk jaar aan te passen.
In 2008 kocht Triarc Wendy’s, en veranderde haar naam in Wendy’s/Arby’s Group, om hun kernactiviteiten te weerspiegelen. In januari 2011 werd aangekondigd dat Wendy’s/Arby’s Group overwoog de Arby’s-kant van het bedrijf te verkopen om zich te concentreren op het Wendy’s-merk. Op 21 januari 2011 werd officieel aangekondigd dat de bedrijven zouden splitsen. In 2009 tekende de Wendy’s/Arby’s Group een franchiseovereenkomst met de Al Jammaz Group uit Saoedi-Arabië om in het Midden-Oosten Wendy’s/Arby’s onder twee merken te openen, met de eerste locatie in Dubai in de Verenigde Arabische Emiraten in mei 2010. De Wendy’s/Arby’s Group tekende in juni 2010 ook een gelijkaardige franchiseovereenkomst met Tab Gida Sanayi ve Ticaret om restaurants met dubbele merknaam te openen in Turkije. Na de splitsing werd de voormalige Wendy’s/Arby’s Group The Wendy’s Company.
In 2010 opende Arby’s een restaurant in Ft. Bliss, hun eerste locatie op een Amerikaanse militaire basis onder een deal die de Wendy’s/Arby’s Group had gesloten met de Army and Air Force Exchange Service om restaurants te openen op bases zowel in de Verenigde Staten als in het buitenland. Alleen Amerikaanse militairen en sommige van hun gasten kunnen de Arby’s-vestigingen op de militaire bases, die door de Post Exchange worden uitgebaat, bezoeken.
Er waren twee verschillende pogingen om franchises in het Verenigd Koninkrijk uit te baten. GSR Restaurant Group opende hun eerste Arby’s franchise locatie in Londen in 1992, gevolgd door een tweede locatie het jaar daarop in Glasgow. Dit waren ook de eerste vestigingen die in Europa werden geopend, maar beide werden in 1994 gedwongen te sluiten. In 2001 opende Barown Restaurants twee Arby’s franchisevestigingen in Southampton, Hampshire, en Sutton, Surrey, maar beide werden gedwongen te sluiten na een paar maanden in bedrijf te zijn geweest.
Op 13 juni 2011 kondigde Wendy’s/Arby’s Group Inc. aan dat het de meerderheid van haar Arby’s keten zou verkopen aan Roark Capital Group met behoud van een 18,5% belang in het bedrijf. Op het ogenblik van de verkoop leed Arby’s een operationeel verlies van 35 miljoen dollar, hadden 350 franchisenemers meer dan 60 dagen achterstand op het betalen van royalty’s en moesten 74 slecht presterende franchise-units en 96 units in eigendom van het bedrijf worden gesloten. Ondanks haar cashflowprobleem meldde Arby’s ook dat de verkoop in de gevestigde winkels in de Verenigde Staten gedurende zes maanden was gestegen, wat zij toeschreef aan haar nieuwe turnaround-plan dat zij onlangs had gelanceerd. De nieuwe eigenaars keerden het bedrijf om door meer slecht presterende vestigingen te sluiten, de marketingstrategie van het bedrijf te wijzigen en door regelmatig nieuwe producten te introduceren. Na vier jaar kon Arby’s $ 300 miljoen aan dividenden uitgeven, waardoor Wendy’s $ 54,9 miljoen ontving voor haar minderheidsbelang, met de rest betaald aan Roark.
In februari 2017 meldde Arby’s dat ze een malware-aanval op haar betaalkaartsysteem onderzochten die gericht was geweest op de credit- en debetkaarten van duizenden klanten. De malware was geplaatst op point-of-sale-systemen binnen Arby’s bedrijfsrestaurants, niet haar locaties die eigendom zijn van franchisenemers, en was actief tussen 25 oktober 2016 en 19 januari 2017. Acht kredietverenigingen en banken uit Alabama, Arkansas, Indiana, Louisiana, Michigan, Pennsylvania en Montana hebben sinds begin februari een rechtszaak aangespannen tegen Arby’s met betrekking tot het datalek.
In september 2017 keerde Arby’s voor het eerst in twee decennia terug naar Koeweit door de opening van een Arby’s-franchise in Jabriya door Kharafi Global.
In november 2017 kondigde Arby’s aan dat het had onderhandeld over een aankoop voor de restaurantketen Buffalo Wild Wings voor $ 2,4 miljard in contanten. Als onderdeel van deze overname werd de moedermaatschappij omgedoopt van Arby’s Restaurant Group, Inc. naar Inspire Brands.
In oktober 2018 breidde Arby’s uit naar het Noord-Afrikaanse land Egypte door drie restaurants te openen in de hoofdstad Caïro met de hulp van lokale franchisepartner Vantage Egypt Tourism and Entertainment.