Bergensbanen ble åpnet av kong Haakon på Voss stasjon den 27. november 1909 og fra 1. desember var det drift på hele strekningen. Da hadde det gått nesten 40 år siden ideen om en slik bane ble reist, 26 år siden den første strekningen mellom Bergen og Voss ble åpnet, 15 år siden Stortinget fattet vedtak om å bygge en bane mellom Voss og Taugevatn og elleve år siden det vedtok å fullføre Bergensbanen ved å forlenge den til Roa, der den skulle slutte seg til Nordbanen, eller Gjøvikbanen som den heter i dag. Også den banen var blitt vedtatt bygd i 1894 og ble åpnet fra Kristiania til Jaren i 1900.
Det viktige vedtaket om Bergensbanen i 1894, som i realiteten innebar at linjen ville bli videreført over fjellet, var en bekreftelse av den oppfatning som hadde slått igjennom på 1870-tallet om at jernbanens hovedoppgave skulle være kommunikasjonsmessig å binde landsdelene sammen. Likevel var det ingen opplagt sak at det skulle bygges en bane mellom Bergen og hovedstaden. Argumentene mot var mange og tunge. Ett var at en slik bane ikke ville dekke noen nasjonalt viktige eller strengt nødvendige behov. Noen godsbane av betydning kunne den ikke bli. Her var dampskipstrafikken langs kysten den naturlige løsningen. Også behovet for persontrafikk var begrenset. En reise mellom Kristiania og Bergen ville koste så mye at få ville ha råd til det. En Bergensbane ville derfor få ganske liten trafikk, driftsøkonomisk sett bli en meget tvilsom affære og samfunnsøkonomisk forholdsvis ubetydelig, ble det hevdet. Også de tekniske utfordringene med lange vintre med snøfokk og vind som en slik bane ville møte, skapte tvil og motstand. Lot høyfjellet seg overhode forsere? Selv jernbanens egne ingeniører var ikke enige her. Omfattende snø- og værmålinger ble foretatt, ulike konklusjoner trukket. Sjefen for jernbaneundersøkelsene, Lars Lysgaard, var skeptisk, mens Thorbjørn Lekve, Arbeidsdepartementets tekniske konsulent, som kom til å lede mye av anleggsarbeidet, så mer optimistisk på det.
Striden kom først og fremst til å rase blant politikerne. En av dem som ut fra betraktninger om både vær og økonomi avviste tanken om en Bergensbane var Peder Rinde, Venstre-representant på Stortinget fra Telemark. For ham var Bergensbanen den aller minst viktige, den «mindst productive» av alle de foreslåtte stambanene. De mange millioner som ville gå med kunne brukes langt mer fornuftig på andre baner. Han tenkte på den konkurrerende planen om en Vestlandsbane, eller Sørlandsbanen som den kom til å hete, som ville gå gjennom hans eget distrikt. Indreminister Johan P. Thorne i Emil Stangs regjering så med så stort alvor på de økonomiske følgene av å bygge Bergensbanen at han valgte å gå ut av regjeringen like etter at Stortinget hadde gjort sitt vedtak i 1894. Og det var store tall det dreide seg om. Opprinnelig var strekningen Voss-Roa budsjettert til 38,5 millioner kroner. Det endelige beløpet ble 49, 5 millioner kroner. Sammen med kostnadene ved de andre baneprosjektene på den tiden utgjorte dette en betydelig del av statens utgifter. Bedre kommunikasjon var et meget høyt prioritert område i den tidens offentlige moderniseringspolitikk.
Påstandene om værhindringer var særlig knyttet til den traseen som bergenserne så ubetinget gikk inn for; den såkalte midtfjellslinjen. Men det var også et viktig motargument at banen på en lang strekning da ville gå gjennom et helt folketomt område. En slik bane mellom øst og vest ville bare ha livets rett, hvis den ble til nytte for flest mulig samfunn og mennesker som ellers sognet til den, ikke bare for de to byene i banens endepunkter. Denne oppfatningen var et av hovedargumentene for ikke å føre banen langs den korteste linjen over fjellet, men over mer befolkede områder fram til en av vestlandsfjordene. En rekke alternativer, som Eidfjordlinjen og Lærdalslinjen, kunne da være aktuelle. Det var den gamle debatten om forholdet mellom lokaltrafikk og gjennomgangstrafikk som her blusset opp. Venstreregjeringen hadde i 1891 understreket at de store stambanene burde så vidt mulig ta den korteste og raskeste veien mellom sine endepunkter, mens lokaltrafikken skulle dekkes av egne lokal- og sidebaner. Slik var det gjort i Sverige og slik burde det nå også bli i Norge. Derfor ble det også lagt opp til at det skulle anlegges et par sidebaner til Bergensbanen, noe som også kom til å skje. Men dette var et kontroversielt standpunkt. Den korteste og raskeste linje var ikke noe selvfølgelig prinsipp for norsk stambanebygging. Også anleggskostnadene ble tillagt stor vekt i denne linjedebatten. Eidfjord- og Lærdalsalternativene ville bli vesentlig billigere å bygge enn midtfjellsalternativet. Og økonomi var viktig. En billigere bane ville lettere gi plass også til andre baneprosjekter. Det var ikke rettferdig å binde så mye av landets finansielle ressurser over så lang tid til bare én bane.
Med de billigere alternativene ville reisen mellom Kristiania og Bergen ta fem timer mer. Tidsbesparelsen sammenlignet med annen transport var uansett overveldende, lød svaret på en slik innvending. Fem timers tidsbesparelse kunne kjøpes for dyrt. De billigere alternativene ville også kreve et uheldig bytte mellom tog og båt, ble det innvendt. Men heller ikke det ble sett på som noe problem. Enkelte mente sågar at et slikt bytte var en fordel, som gjorde reisen mer behagelig og innholdsrik. Også med tanke på turisttrafikken var en fjordlinje å foretrekke, ble det hevdet. Det nakne og golde høyfjellet var av liten interesse for de utenlandske turistene som kom til Norge. Det var fjordene, Jotunheimen, Telemark og enkelte andre distrikter de ville se. Men ber genserne fikk det som de ville, midtfjellslinjen ble valgt.
Bergensbanen hadde fra da den ble lansert rundt 1870, først og fremst vært en Bergenssak. Vossebanen, hvor det var bergenserne som stilte opp med det aller meste av den ikke-statlige kapitalen, var den første frukten av dette arbeidet. Regionale og nasjonale tungvektere både i politikk, næringsliv og kultur stilte på laget, godt støttet av et bredt folkelig engasjement i byen. I 1892 samlet saken hele 800 mennesker til et folkemøte i regi av Bergens Håndverkerforening. Foredraget på møtet ble senere utvidet, trykt og distribuert i 5000 gratiseksemplarer over hele landet
I den avgjørende debatten på Stortinget i 1894 var det John Lund og Christian Michelsen som førte ordet for bergenserne og Bergensbanen. Deres hovedargument for banen var at Bergen, landets nest største by, i reisetid lå vesentlig lenger unna hovedstaden enn byer som Trondheim, Stavanger og Romsdalsbyene. Kommunikasjonsmessig var Bergen særdeles dårlig stilt. Fra Bergen til Kristiania tok raskeste reise - med båt - 50-55 timer, mens en reise - med tog - fra Trondheim til Oslo tok 17 timer. Det var nærmest et rettferdighetsspørsmål at bergenserne nå måtte få et transporttilbud på høyde med det andre byer og distrikter hadde.
Bergensbanen ville først og fremst bli en passasjerbane. Men som sådan ville den, sa bergenserne, anta store dimensjoner. Lund mente at «man vanskelig har noget Begreb om, hvad den kan udvikle sig til». Han så blant annet for seg en stor turisttrafikk i tillegg til ordinær passasjertrafikk. Når det gjaldt kritikken mot høyfjellstrekningen, ble det blant annet sagt at banen ville utløse et nytt system av høyfjellsreiser. Norge ville blant annet kunne bli en internasjonal stormakt som sanatorieland og «helsebodsland». Banen ville også bli av stor betydning for de norske utenlandsforbindelser. Det ble forutsatt at den ville bli kombinert med et bedret dampskiptilbud, særlig til England. Både nasjonalt og internasjonalt ville banen bli integrert i et større transportsystem. Når det gjaldt dampskipstrafikken innenlands, kunne det dreie seg om ruter langs kysten og i fjordene både sør og nord for Bergen.
De økonomiske prognosene for Bergensbanen var usikre, enda mer usikre enn for mange av de andre banene. Derfor ble nok argumentet om Bergensbanen som et nødvendig tiltak for å knytte Bergen og store deler av Vestlandet samferdselsmessig til resten av landet og spesielt til hovedstaden, det tunge og utslagsgivende. Det ble en symbolsak på nasjonal enhet at Bergen ble trukket inn i det moderne transportsystemet. Det var dette, ikke noe veldig påtrengende behov for bedre transport, som ble avgjørende i en situasjon hvor nettopp slik nasjonal argumentasjon i en unionsstridens tid hadde gode kår.
Vedtaket i 1894 inngikk i et større jernbanepolitisk kompromiss, der også flere andre regioner fikk sine banestrekninger. Andre måter å få påbegynt Bergensbanen på var politisk umulig. Derfor ble det også lagt til grunn at det minst ville det ta 15 år før en videreføring av banen kunne igangsettes. Men så skulle det vise seg at utviklingen kom til å gå langt raskere. Sterkt bedrete statsfinanser og en ny «jernbanefeber» som følge av denne «flom» i statskassen i annen halvdel av 1890-årene, førte fram til vedtaket i 1898 om å fullføre byggingen.
Også et annet viktig vedtak ble fattet i 1898. Det hadde vært mye strid om Bergensbanen skulle bygges som smalsporet eller som bredsporet bane. Valget av sporvidde og teknisk standard for øvrig var et stort og noe særegent stridstema i norsk jernbaneutbygging. Noen baner ble smalsporete, andre bredsporete, uten at det lå noen helt klare prinsipper til grunn for valgene. For mange var det viktig å få bygget mest mulig jernbane og de foretrakk av den grunn de billigere og enklere smalsporete traseene. Men med vedtaket om at Bergensbanen skulle være bredsporet, ble det forsøkt etablert et prinsipp, som sa at hovedlinjer skulle være bredsporete, lokallinjer og småbaner smalsporete. En følge av vedtaket om vidden på Bergensbanen var at den smalsporete Vossebanen måtte ombygges. Dette var den første av en rekke baner som etter hvert ble ombygget.
Nok et viktig spørsmål i 1898 var linjevalget østafjells. Flere distrikter var naturlig nok interessert i godbiten. Én strid dreide seg om valget mellom å føre banen gjennom Hallingdalen eller gjennom Numedalen, en annen om den skulle føres enten via Krøderen eller Hønefoss til Drammen og Oslo, via Hønefoss og Sandvika til Oslo eller via Hønefoss, eventuelt Heen, til Roa på Nordbanen. Venstre hadde tidligere gått inn for Hallingdalen og Roa-alternativet og dette ble også nå regjeringens valg. Ett argument var at dette var det rimeligste alternativet, et annet at linjen om Roa og Hadeland ville bringe Bergensbanen i direkte og nær kontakt med jernbanenettet i de indre østlandsområdene. Også de militære hensyn, som fra tid til annen hadde betydning når jernbanelinjer skulle fastlegges, falt ned til fordel for Roa-alternativet. Og slik ble det, helt til Oslo-tunnelen kom på 1980-tallet og ruten ble lagt om Drammen.
Byggingen av Bergensbanen ble en triumf for den norske ingeniørstanden, men også for de mange rallarne og andre anleggsarbeidere som var med på å bygge banen. Det var statsbanene selv som sto for arbeidet, slik Stortinget hadde bestemt i et oppgjør med «kontraktørvesenet» i 1894. Unntaket var Gravhalstunnelen, over fem kilometer lang og på den tiden landets klart lengste tunnel, hvor oppdraget gikk til entreprenørfirmaet Strøm og Hornemann. Tunnelen sto ferdig i 1905, etter ni års arbeid. Men dette ble siste gang på svært lenge at staten brukte kontraktører på sine jernbaneanlegg. Strøm og Hornemann var for øvrig de første som brukte boremaskiner i tunnelarbeidet. Ellers var byggingen av Bergensbanen som alle andre norske baner på denne tiden, fortsatt preget av mye hardt manuelt arbeid med enkle redskaper. Som en arbeider forteller fra arbeidet med en skjæring: «Alt måtte lempes med hand, og vi brukte spett og la slisker når vi skulle ta storsteinen. Arbeidskrafta var billig, og statens ingeniører brydde seg ikke stort om at folk sleit.» Mye av arbeidet var farlig, dødsulykker forekom selvsagt og mange fikk store helseproblemer og pådro seg sykdommer som kunne være dødelige, særlig dem som jobbet i tunneler.
Bergensbanen ble bygget samtidig med at Norge i stor grad ble selvforsynt med lokomotiver til både nye og gamle baner. A/S Thunes Mek. Værksted og A/S Hamar Jernstøberi & Mek. Værksted sto for en omfattende lokomotivproduksjon fra rundt århundreskiftet. Av de 41 lokomotivene som i perioden 1904-1914 ble skaffet til Bergensbanen, var hele 32 produsert i Norge. Det ble også utviklet spesialtilpassete roterende snøploger for den nye og værharde banen. Slik var det en nær sammenheng mellom store prosjekter som Bergensbanen og utviklingen av en egen norsk jernbaneindustri.
Det var, som nevnt innledningsvis, knyttet mye usikkerhet til hvor stor trafikken på Bergensbanen ville bli og hvordan banen ville greie seg økonomisk. Den skulle først og fremst frakte passasjerer, ikke gods. Slik skilte den seg ut fra mange andre norske baner, hvor behovet for bedre og billigere transport av gods var vel så viktig som behovet for passasjerfrakt. Én tanke hadde også vært at dette skulle bli landets store turistbane. Det ble utarbeidet planer for statlige høyfjellshoteller, som riktignok ikke ble realisert. Resultatet ble til å begynne med mer beskjedent -- to statlige fjellstuer. Norske statsfinansierte reisebyråer ble imidlertid etablert både i Berlin (1910) og London (1913), med statsbanene som en sentral aktør for å stimulere turiststrømmen fra utlandet.
Bergensbanen ble en stor suksess fra første stund målt i antall reisende, og en tid også målt etter økonomisk resultat. Allerede i 1914 hadde den tre ganger som mange reisende som Rørosbanen, stambanen mellom Oslo og Trondheim. De dystre spådommer om uoverstigelige driftsmessige problemer som følge av snøfokk og uvær slo heller ikke til.
Under og like etter første verdenskrig sprengte Bergensbanen, som så mange andre norske baner, alle rekorder. I 1919-20 reiste drøyt 3,7 millioner passasjerer med banen. Men i mellomkrigsårene ble Bergensbanen i likhet med de andre banene, rammet av tilbakegang, særlig i passasjertrafikken. Økonomisk vanskelige tider var hovedforklaringen, og trafikken tok seg ganske riktig opp igjen i takt med at tidene ble noe bedre mot slutten av 1930-tallet. Truende var det imidlertid at jernbanen nå også fikk konkurranse fra en gryende bilisme. Det var dette som i det lange perspektivet medførte at jernbanens storhetstid -- og med den også Bergensbanens -- var over i løpet av mellomkrigsårene.
Bergensbanen beholdt likevel sin høye status også etter krigen. Den fikk sin selvfølgelige plass i NSBs offensive «Vekk med dampen»-program som ble lansert tidlig på 1950-tallet. "Lyntog” med nye og bedre diesellokomotiver brakte reisetiden betraktelig ned allerede før elektrifiseringen av banen var ferdig i 1964. Og med elektrisk drift ble reisetiden nesten det halve av hva den hadde vært like etter krigen. Komforten ble også betraktelig bedre, slik det høvet seg en prestisje- og turistbane. Også restaurantvognen, som hadde vært en selvfølge på Bergensbanen helt fra starten av, var av det mer staselige slaget. Bergensbanen fortsatte å være blant de høyest prioriterte banene når nytt materiell ble introdusert. Nye store tunneler kom også til. I 1964 sto tunnelene Ulriken og Arnanipa ferdige, som forkortet banen med over to mil. Og en ny stor tunnel på over 10 kilometer, Finsetunnelen, ble tatt i bruk i 1993, for å sikre tryggere og mer regelmessig drift over fjellet.
Slik har det vært en påfallende kontinuitet i synet på Bergensbanen og i dens status som en helt spesiell banestrekning. Den var tenkt som, og ble gjennom de første 100 årene, en spektakulær passasjer- og turistbane. Dette ble bekreftet så sent som i 2005, da en reiselivsekspert i den amerikanske avisen Chicago Tribune kåret Bergensbanen til en av «de ti fineste jernbanestrekningene i hele verden».