Né à Nantes en 1934, il fait sa classe préparatoire au Lycée Chaptal à Paris en 1954 puis intègre l'Ecole normale supérieure de Saint-Cloud en 1955. Il suit les cours de Léon Lutaud puis ceux de Jacques Bourcart, qui dirige son travail de terrain, mené avec Jean Veslin, sur la tectonique de la région de Vence (Alpes-Maritimes). De ces années d'études à Paris, ses camarades ont conservé, en particulier, le souvenir de ses talents de caricaturiste de leurs professeurs.

Lauréat de l'agrégation de sciences naturelles en 1959, il est nommé au Lycée Janson de Sailly à Paris où il enseigne jusqu'à sa retraite en 1995. Parallèlement à une carrière d'enseignant, Gabriel Gohau s'est engagé dans des travaux en didactique des sciences, de la biologie et de la géologie, dès les années 1960. Auteur de manuels scolaires de sciences naturelles pour l'enseignement secondaire (comme le cours Oria, chez Hatier en 1969), il publie plusieurs travaux de didactique des sciences, dans la revue Aster en particulier à partir des années 1980, s'intéressant à divers aspects de l'enseignement des sciences naturelles comme la redécouverte, les obstacles épistémologiques et didactiques.

Au début des années 1970, il découvre la pensée de Gaston Bachelard et rencontre Georges Canguilhem, dont il suit le séminaire. C'est à travers l'école française de l'épistémologie historique qu'il se forge une éducation philosophique : « une école caractérisée par l'étude des obstacles épistémologiques qui produisent des discontinuités intellectuelles séparées par des périodes de stase ou d'équilibre », explique-t-il dans son discours de réception du prix Mary Rabbitt en 2010. En effet, en France, outre les scientifiques eux-mêmes et les historiens professionnels, « les philosophes jouent un rôle important » dans l'histoire des sciences, ajoutait-il. A la fin des années 1970, son « maître Canguilhem », comme il aimait le nommer, l'oriente vers François Dagognet pour diriger la thèse d'Etat dans laquelle il s'engage alors et qu'il soutient en 1982. Elle porte sur l'étude des « Idées anciennes sur la formation des montagnes. Préhistoire de la tectonique ».

Mais les sciences dont l'histoire intéresse Gabriel Gohau couvrent aussi les différents domaines de la biologie sur lesquels il publie plusieurs articles et ouvrages dont un « Biologie et biologistes ».

La seconde moitié des années 1970, c'est aussi l'époque où il devient membre fondateur du Comité français d'histoire de la géologie (Cofrhigéo), que crée en 1976 le géologue François Ellenberger avec quelques autres personnalités de la géologie. Il lui succède à la présidence en 1996, présidence qu'il assure jusqu'en 2016, après le décès de Jean Gaudant, resté secrétaire général depuis l'origine.

Gabriel Gohau a publié de nombreux articles d'histoire de la géologie notamment dans les Travaux du Cofrhigéo, la Revue d'Histoire des Sciences, Les Cahiers François Viète. Il est l'auteur de nombreux ouvrages et chapitres d'ouvrages, dont certains ont connu plusieurs éditions et furent traduits en Anglais : Les fossiles : naissance et formation d'une idée scientifique (1966, 2010) ; Buffon ... Des époques de la nature (1971, 1998) ; Biologie et biologistes (1978) ; Idées anciennes sur la formation des chaînes de montagnes (1983) ; Histoire de la géologie (1987) ; L'Enseignement des sciences et la formation du jugement (1987) ; Les sciences de la terre aux XVIIe et XVIIIe siècles : naissance de la géologie (1990) ; Une histoire de la géologie (1990) ; A history of geology (1991) ; Histoire des sciences de la vie, avec Pascal Duris (1997, 2011) ; Naissance de la géologie historique : la Terre "des théories" à l'histoire (2003) ; Jules Verne : De la science à l'imaginaire, avec Philippe de La Cotardière, Jean-Paul Dekiss, Michel Crozon et Alexandre Tarrieu (2005) qui a obtenu le prix Roberval. Lamarck, philosophe de la nature, avec Pietro Corsi, Jean Gayon et Stéphane Tirard (2006, 2015) ; Histoire de la tectonique : des spéculations sur les montagnes à la tectonique des plaques (2010) ...

La Société géologique de France lui a décerné le Prix Eugène Wegmann « pour des travaux relatifs à l'histoire de la géologie » en 1994. Ce prix, fondé en 1982, avait d'abord été attribué à F. Ellenberger en 1984. En 2010, il reçoit aussi le prix Rabbitt, le prix d'histoire de la géologie attribué par la Geological Society of America.

Enfin, cette rapide présentation ne serait pas complète sans évoquer son engagement rationaliste, au sein de l'Union rationaliste dont il rejoint le conseil d'administration dès 1965. Il a présidé la section parisienne et créé avec quelques autres membres de l'UR, les Editions rationalistes et la revue Raison présente. Les Cahiers rationalistes et Raison présente seront aussi, bien sûr, les vecteurs de ses réflexions sur l'histoire des sciences et sur l'enseignement. L'Union rationaliste lui attribue son prix en 2012.