市域の旧石器時代の遺跡は明確ではない。縄文遺跡は初瀬川流域に分布し、早期遺跡は知られていないが、前期の三輪遺跡・箸中遺跡などがある。後期―晩期には河川の段丘上や微高地に集落が営まれたとみられ、三輪遺跡・脇本遺跡・纏向遺跡・大福遺跡が知られる。弥生遺跡も河川の流域にあり、三輪遺跡・灯明田遺跡・太田遺跡・大福遺跡などがある。
古墳時代の遺跡は弥生後期の遺跡と重複しているが、纏向遺跡と大福遺跡が代表的である。古墳は三基の大型前方後円墳が点在し、いずれも古式古墳。大市墓(箸墓古墳)は前期でも古い時期に該当、これに次ぐ桜井茶臼山古墳やメスリ山古墳も初期の王権とかかわった人物の墓所であろう。以上のほかホケノ山古墳や池之内古墳群の前期古墳がある。
中期古墳では兜塚古墳が家形石棺の初期のものとして注目され、後期古墳ではその前半期のものとして珠城山古墳群がある。また安倍丘陵から粟原谷にかけては谷首古墳・艸墓古墳・文殊院東古墳・文殊院西古墳・越塚古墳・天王山古墳・ムネサカ古墳などがあり、後期―終末期古墳の密集地帯であり、粟原谷には、
積みの横穴式石室をもつ古墳も分布し、その代表は花山西塚古墳・花山東塚古墳や舞谷古墳で外鎌山北麓古墳群内からも近年二基発見され、さらにその数は増加しそうである。
古墳時代に続く火葬墓も安倍丘陵や外鎌山周辺などで火葬蔵骨器や外容器が発見されている。また初瀬の東山中にある横枕火葬墓群は奈良時代の高官の火葬墓地域として重要である。
当市域は古代の城上郡の大部分と十市郡の約半分、山辺郡の一部などからなり、神武東征神話の舞台となっただけではなく、記紀にみえる崇神天皇磯城瑞籬宮・垂仁天皇纏向珠城宮・景行天皇纏向日代宮・神功皇后磐余若桜宮・履中天皇磐余稚桜宮・雄略天皇泊瀬朝倉宮・清寧天皇磐余甕栗宮・武烈天皇泊瀬列城宮・継体天皇磐余玉穂宮・欽明天皇磯城嶋金刺宮・敏達天皇訳語田幸玉宮・用明天皇池辺双槻宮・崇峻天皇倉梯宮などの宮名は当市域の磯城・纏向・磐余・初瀬などの古代地名と関連しており、四世紀代には大和王権基盤の地として確立し、五世紀後半には大和国家が三輪・磐余の地域に成立した。