三田盆地は
旧石器時代から、人々が暮らした痕跡がある。2万5千年前の遺跡である広野地区の
溝口遺跡からはナイフ形石器、石鏃などが発掘されている。
ニュータウン開発で発見されたけやき台の
有鼻遺跡や
平方遺跡は
弥生時代中期の遺跡で、ここからは畿内最古の鉄剣や鉄斧などの鉄器類や
竪穴式住居跡などが発掘されている。
古墳時代には
武庫川と青野川が合流する流域は
須恵器の産地となっていたようで、本庄地区の
東仲古墳 、
沢山1号墳など石室を持った古墳とともに須恵器の窯跡が発掘されており、「末(すえ)」という地名は今も残っている。これは三田市の北西に隣接する
篠山市今田地区で生産されている
立杭焼(丹波焼)の起源の一つと考えられている。また、青野川とともに青野ダムを形成する黒川沿いの小野地区にある
伊勢貝遺跡は、
縄文時代から
平安時代にかけての集落の遺構が発掘される複合遺跡である。このように市域には時代ごとに遺跡や古墳が多くあり、古代から連綿と人々の暮らしが続いていることがわかる。
現在の市街地エリアに町が形成されたのは7〜8世紀頃からと考えられる。三田地区・三輪地区一帯は7世紀以前から日本最古の神社と言われる
大和国一ノ宮である
大神神社の荘園となっており、大和国
城上郡の松山氏が荘官として管理し通称「
松山の庄」と呼ばれていた。
668年(
天智天皇7年)に金心寺が建立されると武庫川より南西部に
門前町が形成され、金心寺周辺を三田と呼ぶようになる。この「三田」という地名に関しては、金心寺の弥勒菩薩坐像の胎内から「当地一帯を松山の庄と号す。 これを金心寺三福田により三田と改む」という文字が見つかっており、そこに由来するといわれている。この三福田とは、「敬田(人を敬う心の田)」「恩田(恩を忘れない心の田)」「悲田(困っている人を助ける心の田)」のことといわれる。