Landon wurde als Eugene Maurice Orowitz geboren in Forest Hills, New York. Sein Vater, Eli Maurice Orowitz, war ein jüdischer Bekleidungshersteller, und seine Mutter, Peggy O'Neill, war eine katholische Schauspielerin und Tänzerin. Landon hatte vier Geschwister:David, Robert, Tom und Cheryl.
Landon begann im Alter von 14 Jahren mit der Schauspielerei und trat in mehreren Broadway-Produktionen auf. Er unterschrieb 1956 bei Warner Bros. und gab sein Filmdebüt im Film „God Is My Partner“ (1957). Anschließend spielte er in einer Reihe weiterer Filme mit, darunter „Marjorie Morningstar“ (1958), „The Legend of Tom Dooley“ (1959) und „The Longest Day“ (1962).
Im Jahr 1959 wurde Landon als Little Joe Cartwright in der NBC-Western-Fernsehserie „Bonanza“ besetzt. Die Show war ein großer Erfolg und lief 14 Staffeln lang, was Landon zu einem bekannten Namen machte. Nach dem Ende von „Bonanza“ im Jahr 1973 spielte Landon in mehreren Fernsehfilmen und Fernsehserien mit, darunter „The Little House on the Prairie“ (1974–1983), „Highway to Heaven“ (1984–1989) und „Us“ (1991). .
Landon war auch ein erfolgreicher Regisseur und Produzent. Er führte Regie bei mehreren Episoden von „Bonanza“ und „Little House on the Prairie“ sowie bei mehreren Fernsehfilmen. Er produzierte auch mehrere Fernsehserien, darunter „The Love Boat“ (1977–1987), „Highway to Heaven“ und „Us“.
Landon starb am 1. Juli 1991 im Alter von 54 Jahren an Bauchspeicheldrüsenkrebs. Er hinterlässt seine Frau Cindy Landon und neun Kinder:Mark, Josh, Jason, Michael, Shawna, Christopher, Cheryl, Erin und Kelly.