信仰玄天上帝原本出于对北极星的自然崇拜，后来衍生出诸多神话传说，玄天上帝便成了航海神、水神、小儿保护神及屠宰业的守护神。民间有一传说云：玄天上帝原名“玄武”，古时某国太子，舍弃王位，到太和山修行42年于是得道成仙。太和山即现今武当山。还有一传说云：玄天上帝的前身是屠夫，晚年感悟不应杀生太多，遂前往武当山修道。途遇观音化身，玄天上帝举刀剖腹，取出脏腑，终于感动天庭，度其成仙。玄天上帝的原始造型为披发，赤足，仗剑，脚踏龟蛇。我国台湾民间供奉的玄天上帝神像多做帝王装扮，这是因为传说明太祖开国与明成祖靖难之役时，都曾得到玄天上帝庇佑相助，明皇室便将之奉为政权的守护神。1661年郑成功入台，见安平一带的地势酷似龟蛇盘绕，有如玄天上帝坐镇一般，于是在台湾建玄天上帝庙“，以为此邦之镇”。
        北极殿传说是台湾最早的玄天上帝庙，创建于明永历十九年（公元1665年）。北极殿原址是荷兰侵占我国台湾时期的中国医馆。明永历十五年（公元1661年），郑成功登陆不久，即占领此处充做救护站。待荷兰人退出台湾后，郑成功将其改建成寺庙，奉祀明朝守护神玄天上帝，称为大上帝庙。北极殿的庙貌建筑具有店屋庙宇的特征。庙藏文物颇多，如彩绘、古碑、古匾、古钟等。
        北极殿由带骑楼的前殿、带拜亭的正殿，以及带两厢的后殿组成。北极殿最大的特色是色彩。因玄天上帝乃北方之神，色彩尚黑，所以北极殿内，不管是庙门、柱身、旗帜皆黑色。加上庙身高耸，形成一股刚毅谨肃的空间气氛。另外，因传说玄天上帝于武当山得道，因此，庙内的图绘亦多与传言中的武当山特征有关，如鹿、鹭、龟、蛇等。
        前殿内及拜殿前天井墙面上共嵌有九方古碑，包括重修碑记、庙产地租碑记、示禁碑记等，是了解北极殿的第一手资料。其中又以道光年间《大上帝庙四条街桐山营公众合约》碑记最特别，对于研究清代驻台班兵制度相当有价值。
        正殿的神龛上方悬有两方古匾：其一为明宁靖王的“威灵赫奕”，书法娟秀清灵，其二为清台厦道陈的“辰居星拱”，雄浑遒劲。宁靖王匾乃台湾仅存明代古匾，弥足珍贵。
        正殿后方地藏王神龛旁有一口古钟，是清道光年间，府城大盐商吴尚新等所献。此钟运至姑苏铸造，钟身刻有吉祥铭文，钟纽则铸有怪兽，是龙九子之一，名“蒲牢”。因性好鸣叫，故而被铸在钟上。