Au Plan de Jupiter, où la pratique d’un ancien culte voué au dieu des sommets serait attestée, plusieurs structures romaines ont été découvertes à la fin du XIXe siècle. Ces édifices, dont il ne reste que de faibles traces, étaient bâtis sur la roche et entouraient un «rocher sacré» où ont été retrouvées de nombreuses pièces de monnaie, vraisemblablement des ex-voto. Il s’agit de deux mansiones (destinées à accueillir les voyageurs qui parcouraient ce tronçon de la Voie des Gaules) et d’un petit temple. Il ne reste que les fondations des mansiones, constituées d’une cour centrale autour de laquelle étaient disposés des locaux étroits et longs, et que l’empreinte du temple, creusée dans la roche: c’était un temple du type gallo-romain, comprenant une partie close, la cella, et un pronao antérieur. De nombreuses tablettes votives en bronze, laissées pour remercier Iuppiter Pœninus du voyage sans encombres et pour demander un retour sûr, ont été retrouvées près de ce monument.
Pendant tout le Moyen Age, le col demeure un passage fondamental, notamment pour les pèlerins qui se rendent à Rome en parcourant la Via Francigena. Vers la moitié du XIe siècle, Bernard de Menthon, archidiacre de la cathédrale d’Aoste, fonde un hospice (aujourd’hui du côté suisse de la frontière) afin d’accueillir les voyageurs qui passaient par le col.
Un musée a été aménagéà l’intérieur de l'Hospice du Grand-Saint-Bernard, modifié et agrandi au fil des siècles; beaucoup des restes archéologiques découverts au col y sont conservés.