El menor de tres hijos de Dorothy y Samuel Glaser, arquitecto de raíces judías, estudió en la Universidad de Tulane, titulándose en Lengua Inglesa y Teatro en 1966. Un año después se titula de nuevo en Teatro por la Universidad de Boston.
Comenzó su actividad artística sobre los escenarios y participó en varias representaciones en Broadway.
En la temporada 1969-1970 debutó en televisión, alcanzando cierta notoriedad gracias al papel de Dr. Peter Chernak en la serie Love Is a Many Splendored Thing. Su debut en la gran pantalla se produce en 1971, con el papel de Perchik en la célebre película El violinista en el tejado. Un año después comparte plató con Goldie Hawn en Las mariposas son libres.
Tras esa experiencia cinematográfica, centró su carrera casi exclusivamente en televisión, participando episódicamente durante la primera mitad de los años setenta en series como Las calles de San Francisco, Kojak o Los casos de Rockford.
La fama se la debe, sin embargo, al personaje del Detective David Starsky en Starsky y Hutch, una de las series de televisión más populares de la historia del medio, no solo en Estados Unidos sino a nivel mundial. Glaser protagonizó esta producción policíaca junto a David Soul durante cuatro temporadas, entre 1975 y 1979.
Tras la cancelación de la serie, Glaser continuó actuando en la pequeña pantalla, aunque su popularidad fue declinando poco a poco. No volvió a intervenir en series limitando su actividad a películas directamente estrenadas en televisión.
Paralelamente, potenció su carrera como director. Se había iniciado en la dirección con algunos episodios de Starsky & Hutch, y en las décadas siguientes se puso tras la cámara tanto en televisión (episodios de Miami Vice o Las Vegas) como en cine (The Running Man (película), 1987 con Arnold Schwarzenegger; The Cutting Edge, 1992)
En 2003 volvió a actuar frente a una cámara de cine, interpretando al exmarido de Diane Keaton en So