Avant la première guerre mondiale, il joue au music-hall, mais également le théâtre de répertoire à Boston. Il débute à Broadway en 1919. Il est remarqué dans Outside Looking in, en 1925, par un talent scout de Cecil B. de Mille. Il débute à l'écran comme co-star de Dynamite. Il est le co-auteur d'une pièce, The Cyclone Lover, jouée à Broadway en 1928. On le verra dans les rôles principaux d'une douzaine de films dont trois lui vaudront une nomination à l'Oscar :
Le Chant de Bernadette (The Song of Bernadette) (1943),
Ma femme est un grand homme (The Farmer's Daughter) (1947) et
Johnny Belinda (1948). Ses autres films incluent
Pour que vivent les hommes (Not as a Stranger) (1955),
Les Grands Espaces (The Big Country) (1958) et
Le Vent de la plaine (The Unforgiven) (1960).
En 1965, il a publié son autobiographie sous le titre Bulls, Balls, Bicycles and Actors.