Wilson wurde am 23. Juni 1947 im Sioux-Indianerreservat in South Dakota geboren. Er war der Sohn einer reinrassigen Sioux-Frau und eines irischen Vaters. Wilson wuchs im Reservat auf und begann schon in jungen Jahren Gitarre zu spielen. Er wurde von der traditionellen Musik seines Volkes sowie vom Rock'n'Roll der 1950er und 1960er Jahre beeinflusst.
Nach der High School zog Wilson nach Minneapolis, Minnesota. wo er eine Band namens Sugarloaf gründete mit seinem Schwager Craig Fuller und seinem Singer-Songwriter-Kollegen Michael Omartian.
Die Gruppe hatte einige Erfolge und nahm zwei Alben für RCA Records auf, bevor sie sich 1971 auflöste.
Nach der Auflösung von Sugarloaf , zog Wilson nach Los Angeles, Kalifornien, wo er die Pure Prairie League gründete im Jahr 1972.
Die Band gewann schnell eine Anhängerschaft und veröffentlichte in den 1970er Jahren eine Reihe erfolgreicher Alben.
Zu ihren beliebtesten Liedern gehört „Amie“ , „Gefallene Engel“ und „ Let Me Love You Tonight ".
1979 verließ Wilson die Pure Prairie League, um eine Solokarriere zu beginnen.
Er veröffentlichte zwei Soloalben, „Jeff Wilson“ (1981) und „Never Be the Same“ (1983), aber sie waren nicht so erfolgreich wie seine Arbeit mit Pure Prairie League.
Wilson tourte und trat in den 1980er und 1990er Jahren weiterhin auf, doch Ende der 1980er Jahre begann sich sein Gesundheitszustand zu verschlechtern. Bei ihm wurde Kehlkopfkrebs diagnostiziert und er unterzog sich mehreren Behandlungsrunden.
Am 12. Dezember 1991 starb Jeff Wilson im Alter von 44 Jahren an Kehlkopfkrebs .
Er hinterließ seine Frau, zwei Töchter und zwei Söhne.