表层沉积物为陆源碎屑物，局部地区有残留沉积。自岸向海沉积物由粗到细呈带状分布。沿岸区以细砂为主，间有砾石等粗碎屑物质。东部海底沉积物主要来自朝鲜半岛，西部系黄河和长江的早期输入物。中部深水区是泥质为主的细粒沉积物，主要是黄河输入的物质。粗、细沉积物之间有宽窄不等的粉砂质沉积。
黄海基底由前寒武系变质岩系组成。北部属于中朝准地台的胶辽隆起带，在第三纪时基本上处于隆起背景。南黄海在新生代时经受了大规模的断陷，接受了巨厚的沉积。海域内的主体构造走向为北北东，由大致平行相间排列的隆起带与拗陷带（盆地）组成。胶辽隆起带和南黄海——苏北拗陷带构成了黄海的海底构造骨架，其东南缘经浙闽隆起带延伸入东海。这些隆起和拗陷带成为黄海陆架发育的基础和边界条件。晚近地质时期以来，黄河、长江带来丰富的泥砂填没了构造拗陷、水下谷地、构造隆起和水下丘岭，从而形成了现在宽广、平坦的大陆架。第四纪以来冰期、间冰期更迭交替、海面频繁升降，使大陆架多次成陆，又多次受到海侵。最后一次海侵是在距今2～1.5万年间开始的。距今6000年左右，海面才上升到接近现在的位置。