Leo Mc Kern naît le 16 mars 1920 à Sydney (Australie). Il est le fils de Véra (née Martin) et Norman Walton McKern. Il est un descendant direct de l'un des deux survivants du massacre de Glencoe (1692).
À l'âge de 15 ans, il perd son oeil gauche dans un accident. Il travaille d'abord comme apprenti en ingénierie, puis comme artiste, avant de servir dans l'armée australienne durant la Seconde Guerre mondiale. Pendant la guerre, il débute sur scène à Sydney en 1944.
Étant tombé amoureux de l'actrice Jane Holland, McKern part s'installer en Grande-Bretagne où il l'épouse en 1946. Il se produit régulièrement au Old Vic Theatre de Londres ainsi qu'au Shakespeare Memorial Theater (aujourd'hui le Royal Shakespeare Theatre) de Stratford-upon-Avon, malgré les difficultés causées par son oeil de verre et son accent australien. En 1949, il interprète Forester dans la pièce Peines d'amour perdues au Old Vic. Son rôle shakespearien le plus notable reste celui de Iago dans l' Othello d'
Anthony Quayle en 1952. Dans le West End londonien, il est le premier à jouer l'homme du peuple dans la pièce de
Robert Bolt, A Man for All Seasons en 1960, mais il jouera ensuite le rôle du procureur de Sir Thomas More dans la version de Broadway, de même que dans l'adaptation cinématographique. On se souvient également de son rôle de Subtle dans la pièce de Ben Jonson The Alchemist en 1962.
Il débute au cinéma en 1952 dans Meurtre dans la cathédrale. Il est également l'un des acteurs principaux du film Help! des Beatles (1965), Un homme pour l'éternité (adaptation de la pièce A Man For All Seasons) en 1966,
La Fille de Ryan (1970), La Malédiction (1976), La Maîtresse du lieutenant français (1981). Il est récompense du Australian Film Institute Award for Best Actor in a Leading Role pour son rôle dans le film Travelling North (1987). Dans le téléfilm Monsignor Quixote (1989), son personnage de Sancho Zancas donne la réplique à
Alec Guinness dans le rôle de Father Quixote.
Il est l'un des « Numéro Deux » dans la série télévisée Le Prisonnier. Il est le seul (avec Colin Gordon) à jouer ce rôle plus d'une fois, d'abord dans Le Carillon de Big Ben, puis dans les deux derniers épisodes de la série, Il était une fois et Le Dénouement. Le tournage de Il était une fois fut particulièrement pénible pour l'acteur et il souffrit d'une crise de nerfs ou d'une crise cardiaque (les témoignages divergent), forçant la production à interrompre le tournage.
En 1975, il apparaît dans ce qui deviendra son rôle le plus célèbre, celui de Horace Rumpole dans la série télévisée Rumpole of the Bailey, et ce durant 44 épisodes jusqu'en 1992. L'auteur John Mortimer avait d'abord pensé à l'acteur
Alastair Sim pour ce personnage, mais changea d'opinion auprès l'audition de McKern. Il déclarera : « Il n'a pas seulement interprété le personnage de Horace Rumpole, il l'a étoffé, illuminé, et rendu plus vivant ».
En 1983, il est fait officier de l'Ordre d'Australie pour « service rendu aux arts du spectacle ». Il révèle à sa fille Abigail qu'il souffre de plus en plus du trac en vieillissant. Il craint également que sa nature corpulente ne déplaise au public. Ses dernières apparitions sont dans le film Molokai : The Story of Father Damien (1999) et sur scène en 2000. Souffrant de diabète et d'autres problèmes de santé, il s'installe dans une maison de retraite près de Bath en 2002. Il y décède quelques semaines plus tard à l'âge de 82 ans, laissant veuve sa femme Jane et orphelines ses deux filles Abigail et Harriet.
Dans les dernières années de sa vie, il apparaît dans plusieurs publicités pour la Lloyds Bank largement diffusées en Grande-Bretagne et dans lesquelles il interprète un personnage proche de Rumpole.