Anderson wurde 1902 in Philadelphia, Pennsylvania, geboren. Sie begann schon in jungen Jahren in der Kirche zu singen und zeigte großes Talent. Sie studierte Musik an der Philadelphia Musical Academy und später an der Juilliard School in New York City. 1925 gab sie ihr professionelles Debüt in New York City.
Andersons Karriere war von Anfang an erfolgreich. Sie tourte durch die USA und Europa und trat in einigen der renommiertesten Konzertsäle der Welt auf. Sie nahm auch mehrere Alben auf und trat in mehreren Filmen auf.
Trotz ihres Erfolgs war Anderson im Laufe ihrer Karriere erheblicher Rassendiskriminierung ausgesetzt. Aufgrund ihrer Rasse wurde ihr oft die Möglichkeit verwehrt, an bestimmten Veranstaltungsorten aufzutreten. Im Jahr 1939 sollte sie in der Constitution Hall in Washington, D.C. auftreten, aber die Daughters of the American Revolution (DAR), denen die Halle gehörte, verweigerten ihr aufgrund ihrer ethnischen Herkunft den Auftritt. Diese Entscheidung löste einen landesweiten Aufschrei aus und Anderson gab schließlich ein Konzert auf den Stufen des Lincoln Memorial.
Andersons Konzert im Lincoln Memorial war ein wichtiger Wendepunkt in der Bürgerrechtsbewegung. Es trug dazu bei, die nationale Aufmerksamkeit auf das Problem der Rassentrennung zu lenken und inspirierte die Menschen, für gleiche Rechte zu kämpfen. Anderson trat zeitlebens weiterhin auf und wurde für Afroamerikaner zum Symbol der Hoffnung und des Mutes.
Anderson erhielt für ihre Arbeit zahlreiche Ehrungen und Auszeichnungen, darunter die Presidential Medal of Freedom, die höchste zivile Auszeichnung in den Vereinigten Staaten. Sie starb 1993 in Portland, Oregon.