Thomas Mark Harmon wurde 1951 in Burbank, Kalifornien geboren. Der Sohn eines berühmten American-Football-Spielers und einer Schauspielerin studierte an der "University of California", wo er auch zwei Jahre lang im College-Football-Team als Quarterback mitmischte. Anno 1973 wurde Mark Harmon mit dem Preis der "National Football Foundation" bedacht. Obwohl er wahrscheinlich das Zeug dazu gehabt hätte, ließ er seine Ambitionen im Profisport links liegen. Stattdessen spielte er bereits Ende der 1970er Jahre erste Film- und Fernsehrollen, darunter in "Eine Farm in Montana", "Colorado Saga" und "240-Robert".
Im Jahr 1986 wurde Mark Harmon vom "People Magazin" zum "Sexiest Man Alive" erklärt. Dass er nicht einfach nur ein Schönling mit einem überschaubaren schauspielerischen Talent ist, bewies Harmon im selben Jahr mit der Darbietung in "Alptraum des Grauens". Für die Verkörperung des Serienmörders Ted Bundy erhielt der Schauspieler eine "Golden Globe"-Nominierung. Später war Mark Harmon auch auf der Theaterbühne zu sehen, unter anderem in den Stücken "Wrestlers" und "The Wager". Weitere nennenswerte Stationen seiner Vita sind "Natural Born Killers" (1994) und "Chicago Hope" (1996-2000).
Der internationale Durchbruch sollte bis 2003 auf sich warten lassen: In der TV-Serie "Navy CIS" mimte Mark Harmon nun den Special Agent Leroy Jethro Gibbs. Seit der sechsten Staffel des Erfolgsformats wirkte er auch als Produzent mit. In den Jahren 2010 und 2011 wurde der ergraute Frauenschwarm für den "People's Choice"-Award als "Beliebtester Schauspieler" und "Beliebtester Verbrechensbekämpfer" (beides für "Navy CIS") nominiert. Mark Harmon ist seit 1987 mit der Schauspielerin Pam Dawber verheiratet. Das Paar hat zwei Kinder. Harmons älterer Sohn Sean hatte bereits einen kleinen Gastauftritt in "Navy CIS", wo er die jüngere Version seines Vaters spielte.