Einige der Theorien besagen, dass der Große Schweizer Sennenhund seinen Ursprung bei den Tibetanischen Doggen habe; anderen Hypothesen nach ist sein Ursprung bei den Molossern der Römer zu suchen. Keine dieser Behauptungen jedoch konnte wissenschaftlich belegt werden. Eindeutig jedoch nachgewiesen werden konnte, dass Hunde seit rund 4000 vor Christi auf dem Gebiet der heutigen Schweiz lebten. Um die Zeit 1000 bis 600 vor Christi erreichten sie gar die Größe der jetzigen Sennenhunde.
Zwischenzeitlich schienen diese großen Hunde in ihrer Heimat vom Aussterben bedroht gewesen zu sein, was sich 1908 schlagartig ändern sollte: Professor Albert Heim, ein Schweizer Kynologe, entdeckte auf einer Ausstellung einen großen Berner Sennenhund mit kurzem Fell. Fortan verwendete er viel Zeit für den Erhalt dieser Hunde, definierte eine eigene Rasse, der er die Bezeichnung „Großer Schweizer Sennenhund“ gab. 1909 kam es zur offiziellen Anerkennung der Rasse, 1912 gründete man den „Klub für Große Schweizer Sennenhunde“, und erst 27 Jahre später erfolgte die Herausgabe der ersten Standards durch die FCI.
Große Schweizer Sennenhunde fand man früher in erster Linie in ländlichen Gebieten, wo sie den Bauern halfen, schwere Milchwagen zu ziehen sowie den Hof zu bewachen. Heute werden sie zumeist als Familienhunde gehalten. Ihr Wachinstinkt sowie die Bereitschaft, Schlitten oder ähnliches zu ziehen hat sich auch heute noch erhalten.
