Il a fait ses classes à l'Actors Studio, dans les années 1950, aux côtés de Steve McQueen, de Paul Newman et de James Dean. Il a débuté au théâtre à Broadway en 1956 grâce à Elia Kazan dans La Chatte sur un toit brûlant de Tennessee Williams. Au cinéma, il est révélé au grand public en 1959 avec Autopsie d'un meurtre de Otto Preminger, il y incarne un militaire douteux accusé de meurtre et défendu par James Stewart.
Dans les années 1960, il remporte un énorme succès avec la série Match contre la vie dans laquelle il interprète un milliardaire atteint d'un mal incurable et qui consume le reste de sa vie par les deux bouts. Plutôt que de rechercher à tout prix des rôles en or à Hollywood, il préférera privilégier les cinéastes indépendants, tels : Peter Bogdanovich (They All Laughed, Saint Jack) et John Cassavetes (Husbands, Meurtre d'un bookmaker chinois, Opening Night) dont il devient l'acteur fétiche dès 1970 aux côtés de Gena Rowlands et Peter Falk. Rejeté par les grands studios, John Cassavetes « produisait, écrivait et réalisait lui-même ses films avec passion, acharnement et courage.»
Ben Gazzara a dit de John Cassavetes : « J'aime être surpris, me mettre en danger. Avec John Cassavetes, on s'amusait comme des enfants avec un nouveau jouet. Je pouvais laisser libre court à mon imagination et m'exprimer sans retenue. John a disparu trop tôt. Il a laissé un grand vide jamais comblé. » C'est en souvenir de John Cassavetes qu'il s'est à son tour lancé en 1990 dans l'aventure de la réalisation avec Au-delà de l'océan (Beyond the Ocean), un voyage dans le rêve d'un homme en quête de sa jeunesse enfouie. Cependant devant la grande difficulté de monter un film et d'obtenir son financement, il se réfugia dans l'écriture, et publia ses mémoires et une fiction se déroulant pendant la Seconde Guerre mondiale.
Il meurt le 3 février 2012 des suites d’un cancer du pancréas
%20-%20Redimensionn%C3%A9e%20(56_).png){kind=tracking}
