旧金山坐落在旧金山湾的湾口，其地理条件在加州淘金热时期显得十分优越，这座城市也迅速兴起：当时几乎所有的商品都不在本地生产，而是从其它地方通过船只运输到旧金山，从而到达美国西部。但是，在1869年5月，第一条自东向西贯通全美国的洲际铁路完工后，旧金山人才突然发现自己选错了地方，处在了旧金山湾外围、远离大陆的另一侧，从而错过了与新铁路连接的机会。许多旧金山人愈发担心这座城市因此而失去它作为该地区贸易中心的优势，也因此开始考虑建造一座横跨旧金山湾的大桥。19世纪70年代早期，许多报章都讨论过这个想法。1872年初，一个名为“海湾大桥委员会”就在努力地计划建造一座铁路桥。一个自称“诺顿大帝一世”的当地名人，提出应该在奥克兰市和旧金山市之间建造一座悬索桥。与他其它古怪的设想不同，这个造桥的设想得到了许多民众和政客的响应。然而，旧金山湾实在是太宽和太深了，这个任务在当时无论在工程技术还是资金方面都是一个巨大的挑战。
1921年，诺顿去世40年之后，人们又考虑过修建水底隧道的设想，但很快由于不适合车辆通行而被否决。随着人口的增长和汽车实用性的提高，要建造一条跨湾大桥的呼声越来越高。1929年，加州立法机构成立了“加州收费桥管理局”，并将在旧金山县和阿拉米达县间建设桥梁的责任交托给它。
为了使桥梁的设计可行性更强，在桥梁选址时人们觉得让它通过耶尔巴布埃纳岛（即芳草岛）而作为“中转站”。这个决定显著地减少了大桥的建造用料和施工人手。直到1997年，芳草岛一直是美国海军基地，因此要实施这个方案，就必须得到美国国会的批准，因为美国国会有权调度陆海空三军、管理海陆军基地。经过了大量的游说工作之后，在1931年2月，加州终于获得了美国国会批准，可以使用这座岛屿。 大桥在1933年7月9日动工。连接旧金山和芳草岛西桥是一个庞大的工程。旧金山湾深达30米，兼之湾底的泥土层松软而深厚，需要新技术才能在土层里固定好地基。在当时的建筑技术下，出于稳定性的考虑，建造悬索桥不能使用超过2个索塔；但如果只使用2个索塔，索塔间的跨度又将超过当时技术的限制。这个问题最终的解决方案是，在旧金山市和芳草岛中间水底沉放一个巨大的混凝土锚碇，将旧金山到芳草岛的距离“切割”成了两段，从而可以在这个锚碇的两端各建造一座双索塔悬索桥。
海湾大桥东桥也是一个非凡的工程壮举。东桥从芳草岛到奥克兰市，由一组双悬臂、五条长跨度通桁架和一条桁架公路组成，跨度达3102米。建成后，海湾大桥东桥是当时同类型桥梁中最长的一座，其悬臂部分在当时世界上所有已建成的桥梁悬臂中，体积最为庞大。
海湾大桥东桥最初的塔架实际上是由特制木材制成。由于湾底的泥土很深，要把直接塔架座在岩床，哪怕只是湾底土层底部都不实际。于是，工程师用原始森林里整根的花旗松精心制造长条木桩，置入湾底较坚实的底层泥土里，构成大桥的地基。 将东西两座桥连接起来的是芳草岛隧道。这条隧道长160米，宽23米，高18米，是世界上直径最长的运输用钻孔隧道。建造隧道时挖掘出来的大量岩石和泥土，用作在芳草岛北面开发与之相连的人工岛屿“金银岛”的部分用料。
这里有一则关于以前在芳草岛隧道的下层铁路的轶事：在铁路隧道的墙上，每隔一定的距离就有一个“死人洞”，以供列车通过时还在隧道里的铁路工人及时躲藏。 1936年11月12日中午12时30分，海湾大桥完工通车。时任总统赫伯特·胡佛、参议员威廉·麦卡杜(William McAdoo）和加州州长弗兰克·梅里厄姆(Frank Merriam）出席了通车仪式。时任州长梅里厄姆在通车仪式上用乙炔切割吹管切断了横贯在车道上的金链，表示海湾大桥正式通车。
海湾大桥的总建造成本是7700万美元。在通车之前，当时的梵蒂冈国务卿，尤金·帕切利，即后来的教皇庇护十二世，为海湾大桥祈祷祝福。 最初，西桥上层桥面的两个出入口都是长长的斜坡，分别在五街（Fifth St.）和布莱恩特街（Bryant St.）的交叉口、弗里蒙特街（Fremont St.）的林孔高地。下层桥面的入口是在埃塞克斯街（Essex St.）和五街的斜坡，主要是货运卡车使用；大桥下层的铁轨则折向北，进入跨湾列车车站。
东桥最初由三个入口：奥克拉市的橡树街（Cypress St.，即17号州道）尾端的高架桥，同在奥克兰的38街（即50号国道）尾端、与圣帕布罗大道交叉口处的高架桥，以及东海岸高速，连接着沿着海岸线延伸到奥尔巴尼市、伯克利市和埃默里维尔市的40号国道。
海湾大桥最初通车时，上层桥面只有双向六车道，并且仅限车辆通行。下层桥面北面有三条卡车车道，其中中间一条的车流方向不一定，由当时通勤方向决定，并由交通灯指挥；南面是两条铁路轨道，供南太平洋铁路、钥匙系统和北萨克拉门托铁路使用。当输电轨正被钥匙系统的列车使用时，另一条铁轨上方有一条输电线为南太平洋铁路和北萨克拉门托铁路的列车供电。1941年之后，海湾大桥的铁路仅供钥匙系统使用。而1958年四月，钥匙系统连同整座海湾大桥都终止了所有铁路服务。此后，海湾大桥重新配置道路。1963年10月12日，大桥改成双向十车道，上层五条车道全为西向，下层则全为东向，并一直持续双向收费到1969年。之后，大桥只对西向车辆收费。
最初，海湾大桥上的美国高速公路有40号和50号两条。1964年，这两条高速公路合并成80号州际公路。
无论是东向还是西向，到金银岛和芳草岛的出口很不寻常地在车流方向的左侧，而这两个岛上的入口虽然依例在车流方向的右侧，但两个入口都没有专门的并道，因此车辆必须在很短的距离就从完全静止加速到高速公路的车速。 在钥匙系统终止运营之后的十年内，汽车的流量急速增加。到了1963年，海湾大桥改制成双层双向十车道。卡车在两个方向的车道上行驶，而铁路则被完全除去。芳草岛隧道上层为了适应卡车的高度而要适度降低路面，下层也随之稍稍降低。在进行路面降低工作时，车辆使用一段可拆卸的、稍高于原高度的临时路面通过隧道，方便对原来的路面施工。
1968年2月11日，一架美国海军T-33流星实习飞机，从海湾大桥附近的阿拉米达海军航空站飞出后，撞上了海湾大桥东桥，机上两名警官当场身亡。事后，事故中一段损坏的大桥桁架被替换修复。
1986年，在大桥落成50周年的庆典上，海湾大桥在悬索上加装了灯饰，使得大桥在夜晚更加绚丽。
