我国是最早养蚕织丝的国家，丝织品通过陆路与海路向世界各地传播。从传播时间看，陆上丝绸之路的形成时间稍早于海上丝绸之路。
几乎与西汉初年(公元前138年)汉武帝派遣张骞出使西域，打通我国与中亚各国的交往通道的同时，海上通道也开始出现了。它的标志便是西汉初年的我国与印度洋之间航线的开辟。
海上丝绸之路开辟后，在隋唐以前，即公元6～7世纪，它只是陆上丝绸之路的一种补充形式。但到隋唐时期，由于西域战火不断，陆上丝绸之路被战争所阻断。代之而兴的便是海上丝绸之路。到唐代，伴随着我国造船、航海技术的发展，我国通往东南亚、马六甲海峡、印度洋、红海，及至非洲大陆的航路的纷纷开通与延伸，海上丝绸之路终于替代了陆上丝绸之路，成为我国对外交往的主要通道。
根据《新唐书·地理志》记载，唐时，我国东南沿海有一条通往东南亚、印度洋北部诸国、红海沿岸、东北非和波斯湾诸国的海上航路，叫作“广州通海夷道”，这便是我国海上丝绸之路的最早叫法。当时通过这条通道往外输出的商品主要有丝绸、瓷器、茶叶和铜铁器四大宗；往回输入的主要是香料、花草等一些供宫廷赏玩的奇珍异宝。这种状况一直延续到宋元时期。到明初郑和下西洋，把这条海上丝绸之路发展到巅峰状态。郑和之后的明清两代，随着海禁政策实施，我国航海业的衰败，这条曾为东西方交往做出巨大贡献的海上丝绸之路，也随着愈来愈严厉的海禁而逐渐消亡了。
海上通道在隋唐时运送的主要大宗货物是丝绸，所以大家都把这条连接东西方的海道叫作海上丝绸之路。到了宋元时期，瓷器的出口渐渐成为主要货物，因此，人们也把它叫作“海上陶瓷之路”。同时，还由于输入的商品历来主要是香料，因此也把它称作“海上香料之路”。