Robert og Richard Sherman, der var sønner af russisk-jødiske immigranter, begyndte at skrive sange sammen i 1951 efter en opfordring fra deres far, Tin Pan Alley-sangskriveren Al Sherman. Brødrene skrev sammen og med forskellige sangskrivere i resten af årtiet.
I 1958 grundlagde Robert Music World Corporation, et musikforlag, som han stiftede. Det havde senere et samarbejde med Disneys BMI-affilierede forlagsafdeling, Wonderland Music Company. Samme år fik brødrene Sherman deres første top ti-hit med "Tall Paul", sunget af musehunden Judy Harriet, på Surf Records-selskabet. Den blev også sunget af Mouseketeer Annette Funicello. Succesen med denne sang fik Walt Disneys opmærksomhed. Han hyrede derefter brødrene Sherman som sangskrivere for Walt Disney Studios. Den første sang, som de skrev på personlig bestilling af Walt Disney, var "Strummin' Song" i 1961. Den blev brugt i Annette Funicellos tv-film "The Horsemasters".
Mens de arbejdede hos Disney, skrev brødrene Sherman flere filmmusiknumre end nogen anden sangskrivere i filmhistorien. De skrev også deres måske mest kendte sang, "It's a small world (after all)" til verdensudstillingen i New York i 1964. Siden da har nogle hævdet, at denne sang er blevet den mest oversatte og spillede sang på jorden, selv om det i høj grad skyldes, at den spilles i Disneys forlystelser i forlystelsesparken "it's a small world" af samme navn.
I 1965 vandt brødrene Sherman to Oscars for Mary Poppins, som indeholder sangene "Feed The Birds", "Supercalifragilisticexpialidocious" og den Oscar-vindende "Chim Chim Cher-ee". Siden Mary Poppins blev vist første gang, har Shermans fået ni Oscar-nomineringer, to Grammy Awards, fire Grammy Award-nomineringer og 23 guld- og platincertificerede albums.
Robert og Richard Sherman arbejdede direkte for Walt Disney og færdiggjorde musikken til live-action-musicalfilmene The Happiest Millionaire og The One and Only, Genuine, Original Family Band indtil Disneys død i 1966. Siden de forlod firmaet, har brødrene arbejdet freelance som sangskrivere på musiknumre til film, tv-shows, tema-parker og teatermusicals.
Deres første opgave uden for Disney kom med Albert R. Broccolis filmproduktion Chitty Chitty Bang Bang Bang for United Artists i 1968. Den gav brødrene deres tredje Oscar-nominering for bedste originale sang for den særligt mindeværdige titelsang.
I 1970 vendte Shermans tilbage til Disney for en kort periode, hvor de færdiggjorde arbejdet med Aristocats og Bedknobs and Broomsticks. Sidstnævnte film skaffede brødrene deres fjerde og femte Oscar-nominering. I 1972 udkom filmen Snoopy Come Home, som brødrene modtog en Grammy-nominering for.
I 1973 skrev brødrene Sherman også historie ved at blive de eneste amerikanere nogensinde, der vandt førsteprisen ved filmfestivalen i Moskva for Tom Sawyer, som de også var forfattere til manuskriptet til.
I 1976 blev "The Slipper and the Rose" udvalgt som årets forestilling af Royal Command. Dronning Elizabeth, dronningemoderen, deltog i forestillingen. En moderne musicalversion af den klassiske Askepot-historie, "Slipper", havde også sange, musik og manuskript af brødrene Sherman. Brødrene fik yderligere to Oscar-nomineringer for filmen. Samme år fik brødrene Sherman deres stjerne på Hollywoods "Walk of Fame" lige over for Grauman's Chinese Theater.
Brødrene Shermans mange andre Disney- og andre film, der har været i toppen af biograffilmene, omfatter Junglebogen (1967), Aristocats (1970), Forældrefælden (1961), Forældrefælden (1998), Charlotte's Web (1973), Huckleberry Finn (1974), Nissehundens mange eventyr (1977), Snoopy, kom hjem (1972), Bedknobs and Broomsticks (1971) og Lille Nemo: Eventures in Slumberland (1989).
Uden for spillefilm er deres Tony Award-nominerede kæmpehit Over Here! (1974) var den mest indtjenende originale Broadway-musical det år. Sherman Brothers har også skrevet adskillige topsælgende sange, herunder "You're Sixteen", som nåede Billboards Hot 100-top 10 to gange: først med Johnny Burnette i 1960 og derefter som nummer 1 med Ringo Starr mere end tretten år senere. Andre top 10-hits omfatter "Pineapple Princess", "Let's Get Together" og flere andre.
I 2000 skrev Sherman Brothers musikken til Disney-filmen The Tigger Movie. Denne film var brødrenes første store film for Disney-selskabet i over 28 år.
I 2003 blev fire af Sherman Brothers' musicals placeret blandt de 10 mest populære børnefilm nogensinde i en britisk landsdækkende afstemning foretaget af BBC. Især Chitty Chitty Bang Bang Bang fra 1968 toppede listen som nummer 1.
I de senere år, da Robert flyttede til London, skrev brødrene mange nye sange til scenemusicalforestillingerne af Chitty Chitty Bang Bang Bang og Mary Poppins, der blev produceret af Disney og Cameron Mackintosh.
For deres bidrag til filmindustrien har brødrene Sherman fået en stjerne på Hollywood Walk of Fame på 6918 Hollywood Blvd. De blev optaget i Songwriters Hall of Fame den 9. juni 2005. Den 16. november 2006 havde Mary Poppins premiere på New Amsterdam Theatre på Broadway.
Den 17. november 2008 modtog Sherman Brothers den nationale kunstmedalje, som er den højeste ære, der gives til kunstnere af den amerikanske regering. Prisen blev overrakt af USA's præsident George W. Bush ved en ceremoni i East Room i Det Hvide Hus.
Den 22. maj 2009 blev filmen The Boys: the Sherman Brothers' Story, en film om parret, vist i biograferne. Filmen blev instrueret og produceret af deres sønner, Gregory V. Sherman og Jeff Sherman. Den blev udgivet af Walt Disney Pictures.
I oktober 2009 udgav Disney et kompendium med 59 numre på to cd'er med deres arbejde for studiet, der strækker sig over 42 år. CD'en har titlen "The Sherman Brothers Songbook".
Den 11. marts 2010 blev brødrene Sherman præsenteret for et vindue på Mainstreet Disneyland i Anaheim, Californien, til ære for deres bidrag til Disney-temaparker. Den 17. maj 2010 modtog brødrene Sherman "Career Achievement Award" ved The Theatre Museum's 2010 Awards Gala i New York City.