市区道路名称最早在今黄浦区的老城厢内出现。作为历史上的上海镇署、上海县驻地，明弘治时已有康衢巷、薛巷、新路巷、梅家巷、新衙巷等5条街巷。随着商品经济日趋繁荣，县城建设日益加强，街巷不断增多。嘉靖时增至10条，清康熙时又增至25条，嘉庆时激增至63条。不仅城内街巷纵横交错，城外沿黄浦江地带，也是道路交叉贯连。道路通名也从最初的“巷”发展为“弄”“里”“湾”“场”等。
1843年后，市区道路发展很快。清道光二十六年(1846年)英租界修筑第一条马路——界路(今河南中路)后，英法美先后成立道路码头委员会，竞相在各自的租界内开辟道路。19世纪50年代，英租界当局在洋泾浜北首继续修筑黄浦滩路(今中山东一路)、领事馆路(今北京东路)、打绳路（今九江路）、海关路（今汉口路）、布道路（今福州路）、派克弄（今南京东路）等。至同治四年(1865年)，由26条道路组成的英租界道路网初具雏形。同时，法、美租界当局也分别在洋泾浜南首和苏州河北岸虹口一带，修筑黄浦滩马路(今中山东二路)、公馆马路(今金陵东路)、文监师路(今塘沽路)、百老汇路(今东长治路)等一批道路。租界当局还以协助清廷镇压太平军为名，英越界筑成徐家汇路(今华山路)、新闸路、麦根路(今淮安路)、极司非而路(今万航渡路)、静安寺路(今南京西路)，法越界筑成徐家汇路(今肇嘉浜路、徐家汇路)等道路。此后，公共租界、法租界继续向租界以外大肆越界筑路。至1925年，工部局越界筑忆定盘路(今江苏路)、虹桥路、北四川路(今四川北路)、劳勃生路(今长寿路)等38条界外道路。法公董局从1900年至1914年也越界筑宝昌路(今淮海中路)、吕班路(今重庆南路)、圣母院路(今瑞金一路)等24条界外道路。
为了抵制租界的扩张，华界也积极修筑道路。光绪二十一年(1895年)，南市地区成立“南市马路工程总局”，修筑华界第一条近代马路——外马路(今中山南路)。紧接着，闸北、吴淞、浦东等地区也成立类似机构，相继辟筑道路。如闸北地境，从1900年至1927年共筑路70多条。1931年左右，上海市政府在新市区(江湾五角场北)筑路20多条。1949年初，市区共有道路930条左右。
1949年新中国成立以来，上海市区道路逐渐由市中心向四周扩展。从20世纪50年代开始，修筑并命名了约600条左右的道路。从20世纪80年代至90年代，又呈现了两个新的趋向：一是随着宝山区、嘉定区、闵行区和浦东新区的设置，市区道路由建成区向新建区扩展，而以浦东新区进展尤为迅速；二是随着内环高架路、南北高架路的兴建，市区道路由地面向空中发展。
