La storia di Junghans iniziò nel 1861, quando Erhard e Xaver Junghans fondarono l'omonima azienda nella cittadina di Schramberg, nella Germania sud-occidentale. Nei primi anni la produzione si concentrò sulla realizzazione di componenti per altri stabilimenti della Foresta Nera; nel 1866 cominciò la produzione di movimenti in proprio. L'azienda realizzò il suo primo grande successo nel 1870, iniziando a produrre sveglie. Il lancio degli orologi da tasca si sarebbe fatto ancora attendere; decisiva fu la fusione con l'azienda Thomas Haller AG, avvenuta nel 1890.
Da quel momento, Junghans ebbe la strada spianata verso il successo e nel 1903 diventò
il maggiore produttore di orologi al mondo. A quest'epoca l'azienda impiegava più di 3.000 dipendenti e vantava una produzione annuale di oltre 3 milioni di orologi. La fabbricazione di orologi da polso iniziò nel 1928; i movimenti provenivano dagli stabilimenti dell'azienda Ruhla, in Turingia. Per gli orologi con calibro proprietario sarebbe stato necessario attendere fino al 1930.
Nel corso della Seconda guerra mondiale Junghans divenne un fornitore di materiale bellico, realizzando ad esempio la strumentazione di bordo degli aerei. Una volta terminato il conflitto, la produzione tornò a concentrarsi sugli orologi. A metà degli anni '50, Junghans era il terzo produttore mondiale di cronometri dopo Rolex e Omega. Nel 1956 l'azienda venne acquistata dalla società Diehl di Norimberga, senza che il successo degli orologi Junghans ne risentisse. Al contrario: fu il momento di pietre miliari come la serie Max Bill e il primo calibro cronometrico automatico, il J83.
Dall'inizio degli anni '60, Junghans cominciò ad occuparsi sempre più di orologi al quarzo, arrivando nel 1967 a produrre il suo primo orologio da tavolo al quarzo, l'Astro-Chron. Tre anni più tardi, con l'Astro-Quarz, venne lanciato il
primo orologio da polso tedesco alimentato al quarzo . Da allora Junghans introdusse altre novità pionieristiche, come il MEGA 1, primo orologio da polso radiocontrollato, o il Mega Ceramic Solar, primo orologio da polso che coniugava la tecnologia radio con quella solare.
Nel 2000 l'azienda è stata venduta alla holding Egana Goldpfeil; quasi 8 anni dopo, si è trovata sull'orlo del fallimento. Dal 2009, la fabbrica di orologi Junghans GmbH & Co. KG è proprietà dell'azienda familiare Steim, originaria di Schramberg.