1891 年，庙宇式海关大楼被拆除，教堂式海关大楼开始兴建，并于 1893 年竣工，第二代海关大楼落成，顶楼的自鸣钟使路人很远就能听到报时的钟声。
浦东川沙匠人杨斯盛主持建造的 3 层砖木结构的英国哥特式楼房。大楼上安装了一座海关大钟。钟楼依次分为钟坠、钟面、主机、鸣钟几部分，是一组调音谐和的鸣钟装置。 这座大钟是亚洲第一大钟，也是世界著名大钟之一。
1925 年，海关拆除教堂式海关大楼，开始建造新楼，并给新楼取名为：江海关大厦，也就是今天外滩的标志性建筑 – 海关钟楼。
大楼 1927 年底落成，与雍容典雅的汇丰银行大齐肩并列，相得益彰，被称为汇丰银行的“姐妹楼”。上海海关大楼面临外滩的一端高 8 层，上冠三层高的四面钟楼，西部 5 层，均为钢架结构。东部墙面用花岗石砌筑，西部 1、2 层石砌，3、4 层镶褐色面砖。
正面 1、2 层处理似底座，粗石墙面，入口处为典型的希腊多立安柱门廊。7 层上方又挑出的高大檐口，入口大厅藻井以彩色马赛克相拼的帆影海事图案为饰，甚为精美。建筑上部具有装饰艺术派建筑特色。建筑占地面积 5722 平方米，建筑面积 32680 平方米。
1893 年建造的第二代海关大楼是当时外滩最高建筑物，由吴淞口驶入黄浦江外国轮船，在很远处就看到了海关大楼并听到了钟声，很快将进港靠泊办理船舶入境海关手续和装卸进出口货物，起到航标和灯塔作用; 其二，高耸的海关大楼和婉转的钟声给城市带来生活立体感节奏和旅游景致的点缀; 其三，是为了便于船舶吨税的征收十九世纪七八十年代，海关规定，船舶在港口停泊超过晚上 12 点，就要多收一天的吨税，而来自各国的各条船舶上自带时钟显示的时间都不一样，引起了很大争议，海关因此在大楼上造钟，规定时间计算均以海关大钟为准。
上海人向来把它们看作上海的标志建筑。 它们见证了上海沦于异族之手的那段岁月，见证了“华人与狗不得入内”的耻辱年代，可是，百年沧桑之后，它们仍然矗立在黄浦江畔，却被赋予了不同的意义，它们成了上海的荣光。
1949 年 5 月 27 日上海解放，江海关才结束了屈辱的历史。1950 年 2 月 16 日，江海关改名为中华人民共和国上海海关。
现如今在这段 1.5 公里长的外滩，鳞次栉比地矗立着海关大楼、和平饭店南楼北楼、原汇丰银行大楼等 52 幢哥特式、巴洛克式、罗马式、古典主义式、文艺复兴式、中西合璧式等各种风格的大厦。
这些大厦虽然出自不同建筑师之手，风格迥异，但是建筑格调统一，建筑轮廓协调，在黄浦江西岸划出了一道优美的天际线，享有“万国建筑博览会”的盛名。
