遠古時代台灣與大陸相連，約幾百萬年前由于地殼運動，陸地下沉，海水進入，形成台灣海峽，台灣島才與大陸分離。
台灣最早的曆史文獻可以追溯到公元230年的三國時期，當時的吳王孫權派遣将軍衛溫、諸葛直率一支由一萬餘名軍士、三十多艘船組成的船隊到達夷洲（今台灣），是中國大陸居民利用先進的文化知識開發台灣的開始。
到了隋代，大陸和台灣的交流越來越頻繁。隋炀帝曾3次派朱寬、陳棱等人前往台灣（當時稱琉球）。到了唐末年代就有大陸漢人定居在澎湖列島。
宋元時期，大陸漢人人口在澎湖已經占有很大比例，并且開始向台灣方向發展，為台灣帶去了先進的生産技術。
元朝元世祖為了加強對台灣的統治，在澎湖設澎湖巡檢司，隸屬福建泉州路同安縣（今福建廈門），是首次中央集權對台灣地區的官署配置。
對台灣影響最強的是在明代，永樂年間鄭和下西洋曾在台灣島停留了一段時間。明末時期，鄭芝龍為抗拒官府欺壓率閩粵居民遷居台灣，從事農耕、貿易，而且組織武裝力量抗禦倭寇和荷蘭人。
鄭芝龍有一子，就是中華民族的民族英雄鄭成功。1661年4月，鄭成功留下部分兵力守衛廈門、金門，以大明招讨大将軍國姓爺的名義率2.5萬将士及數百艘戰艦，從金門料羅灣出發，經澎湖向台灣進軍。
4月30日鄭軍在鹿耳門（今屬台南）登陸，在群眾積極支援下與荷軍展開多次激戰，最終将荷蘭東印度公司台灣長官揆一和殘敵圍困在熱蘭遮城内。鄭成功在緻揆一的“谕降書”中嚴正指出：“然台灣者，早為中國人所經營，中國之土地也，……今餘既來索，則地當歸我”。圍城9個月後，台灣長官揆一于1662年2月1日不得不簽字投降。至此中國人民收回了被荷蘭殖民者侵占的寶島台灣。
明鄭政權末期與清政府處于軍事對峙狀态，逐漸演變成地方割據政權。1683年7月8日，清政府派福建水師提督施琅率水陸官兵2萬餘人、戰船200餘艘，從銅山（今屬福建漳州）向澎湖、台灣進發。清軍向澎湖守軍發起攻擊，鄭軍潰敗。鄭克塽率衆歸順清政府。至此台灣在清政府直接統治之下。