根据考古遗址的发掘，台北地区（包括台北市&今新北市）在新石器时代（始于纪元前5,000年），就已经开始有人类居住。主要的史前文化遗址有大坌坑遗址、圆山遗址、芝山岩遗址及植物园遗址等。其中位于今八里乡埤头村公田聚落南方的大坌坑遗址，年代约在纪元前5000年至2700年之间，为台湾新石器时代最早期的文化之一。

而同属于八里乡，位于顶罟村的十三行遗址，也是台湾北部重要的考古遗址之一。该遗址的年代约在纪元200年至1500年，在文化上属于台湾史前时期的铁器时代，是目前台湾唯一确定拥有炼铁技术的史前文化。

在荷西时期，台北地区主要为原住民凯达格兰族的生活范围，仅南部山区则有泰雅族出没其间。17世纪中叶起，汉人开始移入屯垦，原住民被迫同化或向高山迁移。

1661年（明永历15年），郑成功来台驱逐荷兰人，设一府二县，台北地区属于北路天兴县。1684年（清康熙23年隶属于台湾府诸罗县。1723年（雍正元年），隶属于淡水厅。

1875年（光绪元年），钦差大臣沈葆桢奏请设立台北府，自此始有“台北”之称，其意乃“位居台湾北部”。1878年设府治于艋舺、大稻埕间，裁淡水厅；台北府辖新竹、淡水、宜兰三县，是为台北设府治之始。1887年台湾建省，全台分设三府，今新北市境仍隶属台北府。

1895年6月，日本人治台后，于北部设今新北市，辖基隆、宜兰、新竹三支厅，8月又增设淡水支厅。1897年，分割台北县而增设新竹县及宜兰厅，同时废支厅，于新台北县下置台北、士林、新庄、沪尾、景尾、桃仔园、三角涌、树林口、中坜、基隆、金包里、顶双溪、水返脚等十三办务署。1901年，废县置厅，裁撤办务署，于原台北县辖区分设台北、基隆、深坑、桃园、新竹等五厅。1909年，地方厅改制，台北厅并基隆厅全部及深坑厅之大半，厅下分设十三支厅。1920年，复改革地方制度，废厅置州、郡，本县现有区域隶属台北州。

1945年，战后，台北州除原辖之台北、基隆二市改为省辖市外，其余划设今新北市，辖宜兰市及淡水、文山、新庄、罗东、基隆、宜兰、七星、苏澳、海山等九区。1947年，基隆区七堵乡改隶基隆市，成为七堵区。1949年9月，将淡水区辖之士林、北投两镇划设草山管理局（后易为阳明山管理局）。1950年8月，台湾行政区域重新调整，就本县原辖宜兰、罗东等一市、八乡、三镇划出成立宜兰县，并裁各区署，而由县府直辖各乡镇。1968年7月，因台北市升格为直辖市，将新北市所属之景美镇、南港镇、木栅乡、内湖乡暨阳明山管理局所属之士林镇、北投镇等六乡镇划归台北市，剩余范围即为今日之辖区。