小海位于水玮内，系一内海，面积7万平方米，约占水城总面积的1/4。小海原为画河入海口，隋、唐时期为登州商港。据史料记载，其时小海“帆樯林立，笙歌达旦”，极之隆盛，是当时中国四大通商口岸之一。宋代，小海兼军用，停泊作战用的快船“刀鱼舡”。
明洪武九年（1376）筑水城时形成小海。小海南宽北窄，中设石拱桥（登瀛桥）以贯东西。桥西端北侧立有蓬莱水城清淤碑，碑文系书法家欧阳中石所书。小海海岸石砌，供舟船停靠。
小海北端转折向东，再折向北，经水门（俗语称“关门口”）与大海相通。水门宽3米，清代曾设凶铁叶木栅式水闸，可上下移动。水门上方架有铁桥，俗称“关门口天医”。水门正南筑有平浪台，迎着水门。