Baltās jūras piekraste vikingu laikos bija zināma kā Biarmija (Bjarmland), kas ir pieminēta sāgās. 12. gadsimtā teritoriju sāka apdzīvot novgorodieši, kas Ziemeļu Dvinas grīvā nodibināja klosteri. Par reģiona tirdzniecības centru izvirzījās Holmogori. 15. gadsimtā reģionā notika vairākas norvēģu-novgorodiešu sadursmes. 1478. gadā Ivans III pakļāva Novgorodas zemi un pievienoja to Maskavijai.
Gatavojoties Livonijas karam, 1555. gadā Krievijas cars Ivans IV noslēdza tirdzniecības līgumu ar angļu jūrasbraucējiem un 1584. gadā nodibināja jaunu pilsētu, nosaucot to par Novoholmogoriem (Новохолмого́ры). No 1613. gada tā tika saukta par Erceņģeļa pilsētu (Архангельский город), bet vēlāk ieguva mūsdienu nosaukumu. Arhangeļska izvirzījās par Krievijas valsts galveno ostu tirdzniecībai ar Eiropu, atstājot ēnā veco centru Holmogorus. Arhangeļska bija Krievijas caristes galvenā osta līdz Pētera I iekarojumiem.
Nodibinoties Sanktpēterburgai un Krievijai 1721. gadā iegūstot Rīgu, Arhangeļskas nozīme mazinājās. Tā atguvās 19. gadsimta beigās kā kokmateriālu osta pēc dzelzceļa izbūves. Krievijas pilsoņu kara laikā no 1918. līdz 1920. gadam Arhangeļska un tās apkārtne atradās balto un Antantes karaspēka rokās. Balto karaspēku komandēja Daugavpilī dzimušais Jevgeņijs Millers. Otrā pasaules kara laikā Arhangeļska līdz ar Murmansku bija divi galvenie PSRS apgādes punkti lendlīzes sistēmas ietvaros.