Enligt Snorre Sturlasson fick Jämtlands sitt namn från Kettil Jämte som lät bryta bygd i Jämtland i början av vikingatiden. En annan tolkning är att "Jämt-" kommer från adjektivet jämn och att namnet då syftar på det "jämna landet" vid Storsjön. Men någon allmänt accepterad förklaring till Jämtland finns inte trots många tolkningsförsök. Under tidig medeltid var Jämtland också mindre än vad det är idag. I ett ålderdomligt avsnitt ur Hälsingelagen om den svensk-norska gränsen framstår det som att Ragunda och Hammerdal låg på den svenska sidan av gränsen och därmed inte var en del av Jämtland. Men i ett fördrag från 1273 sammanfaller Jämtlands gränser i stort sett med de nuvarande. Under medeltiden hade Jämtland en autonom ställning i det norska riket och utgjorde en egen lagsaga. Det var först under 1420-talet som Jämtland och Härjedalen fick en gemensam lagman, och efter den svenska erövringen 1645 blev dessa landskap sedan en del av Västernorrlands lagsaga. Härjedalens namn är lättare att förklara, det har fått sitt namn från Härjån vars dal troligen befolkades västerifrån under vikingatiden. Namnet syftade ännu i slutet på 1200-talet bara på den nedre delen av landskapet.

Som en del av Sverige tillhörde Jämtland 1645-1654 Härnösands län som även omfattade Ångermanland och Medelpad. Därefter uppgick Härnösands län i Västernorrlands län som då hade sin residensstad i Gävle och som Härjedalen hade tillhört sedan 1645. Åren 1658-1660 ingick Jämtland och Härjedalen i Trondheims län som då var en svensk besittning, men när Trondheims län avträddes i freden i Köpenhamn 1660 återförenades dessa landskap med Västernorrlands län. Detta stora län som 1660-64 omfattade hela Norrland delades 1762 i Gävleborgs och Västernorrlands län. Jämtland ingick i det nya Västernorrlands län som fram till 1778 hade sin residensstad i Sundsvall och därefter i Härnösand. Härjedalen blev däremot en del av Gävleborgs län. Genom länsreformen 1810 återförenades Jämtland och Härjedalen, och de har sedan dess tillhört Jämtlands län med Östersund som residensstad. Smärre justeringar av länsgränsen under 1800-talet och i samband med kommunsammanslagningarna på 1960- och 70-talet har gjort att den i flera fall avviker från landskapsgränserna, men dessa ändringar av länsgränsen har endast berört ett fåtal invånare.

Enligt Frösöstenen som Östman Gudfastsson lät resa i mitten av 1000-talet var det han som som kristnade Jämtland. Östman var förmodligen Jämtlands lagman och eftersom Jämtland vid denna tid var en del av det svenska riket anslöts det till Sigtuna stift som på 1130-talet förvandlades till Uppsala stift. Trots att Jämtland då var norskt fortsatte det att kyrkligt tillhöra Sverige och förblev så till freden i Stettin 1570 då det överfördes till Trondheims stift, som Härjedalen hade tillhört sedan kristnandet i början av 1100-talet. I freden i Brömsebro 1645 blev dock både Jämtland och Härjedalen svenska och det överfördes till Uppsala stift. Men redan 1647 avskiljdes Jämtland tillsammans med resten av Norrland förutom Hälsingland och Gästrikland för att uppgå i det nybildade Härnösands stift. Härjedalen blev dock först 1661 definitivt en del av Härnösands stift. Detta stift leddes av en superintendent till 1772 då denne fick titeln biskop. 1904 avskiljdes Västerbotten och Norrbottens län som då bildade Luleå stift.

Enligt Snorre Sturlasson blev Jämtland, som sedan tidigare hade varit bebyggt av norrmän, befolkat av människor som ville slippa Harald Hårfagers stränga styre över det nyligen enade Norge i slutet av 800-talet. De arkeologiska fynden visar också att Jämtland har varit befolkat av bönder sedan yngre romersk järnålder (200-400 e. Kr.) samt att bebyggelsen blev mer omfattande under vikingatiden, och oavsett sanningshalten i Snorre Sturlassons kungasagor så är det troligt att Jämtland huvudsakligen befolkades från Norge. Enligt Eyrbyggarnas saga skulle Jämtland ha styrts av en jarl vid namn Kjallak när Harald Hårfager styrde Norge.
 

En vanlig uppfattning är att Jämtland skulle ha varit en självständig bonderepublik fram till 1178 då det erövrades av Norge. Men då tänjer man lite väl på sanningen. Redan i mitten av 900-talet ska jämtlänningarna ha hyllat Norges kung Håkon den gode, som enligt Snorre Sturlasson gav Jämtland dess lag. Under 1000-talet framstår det sedan som att Jämtland ingick i sveakungarnas välde. Olof Skötkonung erövrade efter slaget vid Svolder år 1000 en stor del av Norge bestående av fyra fylken i Trondheim, Möre, Romsdal samt Bohuslän. Senare under hans och sonen Anund Jakobs regering försökte den norske kungen Olav Haraldsson att skicka skatteindrivare till Jämtland som dock föredrog att betala skatt till sveakungen och helt sonika slog ihjäl Olav Haraldssons män. I början av 1100-talet bytte dock jämtlänningarna rikstillhörighet genom att av börja betala skatt till den norske kungen Øystein I. Sedan när de jämtländska bönderna i samband med de norska inbördesstriderna blev besegrade av kung Sverre 1178 och lovade att bli dennes undersåtar råder det inte längre någon som helst tvekan om vilket rike Jämtland tillhörde. En konsekvens av nederlaget var att Jämtlands lagman hädanefter utsågs av kungen. Detta var en inskränkning i landskapets autonomi som inte gjordes i de svenska landskapen förrän 1347 då Magnus Erikssons landslag infördes.

Men trots nederlaget 1178 var Jämtlands anknytning till Norge både före och efter detta årtal ganska lös och dess ställning inom den norska monarkin bör snarast jämföras med Shetlands- och Orkneyöarnas. Jämtlänningarnas enda skyldighet till kungen var en lindrig skatt som betalades i hermelinskinn. Härjedalen förenades med Jämtland för första gången på 1420-talet när de blev en gemensam lagsaga. Under unionskrigen som började 1449 stred den svenske kungen Karl Knutsson Bonde och den danske kungen Christian I om Norges krona. Jämtland och Härjedalen som sedan 1420-talet hade varit en gemensam lagsaga styrdes då av hövitsmannen Örjan Karlsson som var en av Karl Knutssons närmaste anhängare, och dessa landskap lydde därför den svenske kungen längre än någon annan del av Norge. Perioden 1445-95 ingick Jämtland i drottning Doroteas livgeding, vilket innebar att det förvaltades av hennes fogdar när hon blev änkedrottning för andra gången 1481.

Eftersom Jämtland ingick i Uppsala stift innebar reformationen i Sverige 1527 att den svenska kronan tog över kyrkans tillgångar i Jämtland. De kyrkliga förhållandena utnyttjades också av Sverige genom att prästerskapet gjorde befolkningen svensksinnad. Under nordiska sjuårskriget 1563-70 mötte de svenska trupperna därför en vänligt sinnad befolkning och de höll landskapet ockuperat under större delen av kriget. Freden i Stettin 1570 ledde emellertid inte bara till Jämtland återbördades till Danmark-Norge men även till att Jämtland överfördes till Trondheims stift. Historien upprepades under Kalmarkriget 1611-13 (eller Baltzarfejden som det också kallades för) då landskapen återigen erövrades av svenska trupper och sedan återlämnades vid freden i Knäred. Lokalbefolkningen i Jämtland bestraffades för dess illojala uppträdande under kriget och av de ungefär 1470 odelsbönder som fanns i landskapet fick ca 1300 sin jord konfiskerad av kronan. Danska präster tillsattes också för att omvända jämtlänningarna. Denna fördanskning var effektiv och under Torstenssonkriget (eller Hannibalfejden) 1643-45 mötte de svenska trupperna en fientligt sinnad befolkning såväl i Härjedalen som i Jämtland. Men trots det blev erövringen denna gång permanent och Jämtland och Härjedalen avträddes av Danmark-Norge i freden i Brömsebro. 1647 blev de båda landskapen formellt förenade med det svenska riket genom att  de fick representation i riksdagen. Den konfiskerade jorden gavs också tillbaka till odelsbönderna. Trots detta hälsades de invaderande norska trupperna under skånska kriget (Gyldenlövefejden) 1675-79 som befriare och i likhet med Skåne förekom det snapphaneaktivitet. Jämtland och Härjedalen utsattes därför för en grundlig försvenskning efter kriget men slapp det undantagstillstånd som Skåne hamnade under.

Redan 1646 hade det som skulle bli Karl XI:s indelningsverk införts i Jämtland och till skillnad från Skåne fick de jämtländska bönderna efter skånska kriget även rekrytera jämtlänningar till Jämtlands regemente. Bönderna lyckades dessutom förhandla fram det unika undantaget att deras regemente enbart skulle användas till försvar av hemprovinsen. Under det stora nordiska kriget deltog detta regemente i Armfelts fälttåg mot Trondheim som slutade med ett katastrofalt tåg över fjällen 1719, under vilket regementet halverades. Härjedalen ingick inte i indelningsverket eftersom de sedan 1662 betalade en årlig summa på 900 daler silvermynt till kronan för att slippa inkvarteringar och underhåll av soldater.

1786 fick Jämtland sin första och enda stad när Östersund grundades. Syftet var att begränsa gränshandeln med Norge och de så kallade landsköpen på landsbygden. Östersunds utveckling gick dock trögt och när det blev residensstad 1810 var det Sveriges minsta stad med bara 200 invånare. Först när järnvägen drogs fram till Östersund 1879 började staden att blomstra och 1920 var Östersund Sveriges 24:e största stad. För Jämtland och Härjedalen som helhet innebar 1800-talet och början av 1900-talet en tid av expansion tack vare skogsbruket. Men den andra halvan av 1900-talet har dessvärre kännetecknats av en kraftigt avfolkning. Östersund blev en universitetsort 2005 när mitthögskolan omvandlades till mittuniversitetet. Detta universitet har sin verksamhet utspridd till inte mindre än fyra olika städer, förutom Östersund städerna Härnösand, Sundsvall och Örnsköldsvik.