Martin nació en Waco, Texas, hijo de Glenn Vernon Martin, un vendedor de bienes raíces y aspirante a actor, y Mary Lee Stewart, una ama de casa. Martin se crió en Inglewood, California y Garden Grove, California. Es de ascendencia inglesa, francesa, alemana, irlandesa y escocesa.

Cuando era adolescente, Martin comenzó a trabajar en la Tienda de magia en Disneyland. Allí desarrolló su talento para la magia, los malabares, el banjo y la creación de animales globo., Se asoció con su amiga y compañera de clase de Garden Grove High School Kathy Westmoreland para hacer una rutina de comedia musical. Actuaron en cafeterías locales y en el Teatro Bird Cage en Knott’s Berry Farm. Martin asistió a Santa Ana College al mismo tiempo que la actriz Diane Keaton.

Martin se especializó en Filosofía en la Universidad Estatal de California, Long Beach, pero la abandonó. Su tiempo allí cambió su vida:

» cambió lo que creo y lo que pienso de todo. Me especialicé en Filosofía. Algo sobre non-sequiturs me atrajo., En Filosofía, empecé a estudiar lógica, y estaban hablando de causa y efecto, y empiezas a darte cuenta, ‘¡Oye, no hay causa y efecto! No hay ninguna lógica! No hay nada!’Entonces se hace muy fácil escribir estas cosas, porque todo lo que tienes que hacer es torcer todo lo duro que torcer la línea de golpe, gire el non-sequitur tan duro alejado de las cosas que configurar, que es fácil… y es emocionante.»

Martin’s girlfriend in 1967 was a dancer on The Smothers Brothers Comedy Hour., Ella ayudó a Martin a conseguir un trabajo de escritura con el programa mediante la presentación de su trabajo al escritor jefe Mason Williams. Williams inicialmente pagó a Martin de su propio bolsillo. Junto con los otros escritores de la serie, Martin ganó un premio Emmy en 1969. Martin también escribió para John Denver (un vecino suyo en Aspen, Colorado en un momento), The Glen Campbell Goodtime Hour, y The Sonny and Cher Comedy Hour. También apareció en estos programas y varios otros, en varias parodias cómicas.,

Martin también realizó su propio material, a veces como telonero para grupos como The Nitty Gritty Dirt Band y The Carpenters. Apareció en la pensión de San Francisco, entre otros lugares. Continuó escribiendo, ganando una nominación al Emmy por su trabajo en Van Dyke and Company en 1976.