Giai đoạn tiền sử:

Thời kỳ tiền sử bao gồm văn hóa Jomon và Yayoi ở các nền văn hóa này người ta thấy các nhà được làm bằng vật liệu chủ yếu là rơm dạ và tre và gỗ, hình thức nhà thường thấy có mái lợp bằng sậy được thả xuống gần sát đất, điểm kết thúc trên mái là hệ thống tre đan vào nhau thành hình chữ X. Mà sau này hình thức này được bảo tồn trong những ngôi đền thờ thần đạo Ise. Tuy nhiên ở các vùng có nhiệt độ và độ ẩm cao tồn tại các loại nhà có sàn gỗ cách ly với mặt đất.

Sau khi các cộng đồng người càng ngày càng lớn thì nảy sinh các công trình lớn hơn và phức tạp hơn cho cách gia đình giầu có và các kho chưa gạo hoặc nông sản. Nổi bật là hệ thống các Kofun ( trung tâm hành chính cho các tầng lớp quý tộc) có hình dáng 2 chiều giống như một lỗ khóa được tìm thấy ở Osaka và Nara, nổi bật nhất là Daisen-Kofun được xây dựng cho nhà vua Nitokun( nhân đức) ở tỉnh Saga vào thế kỷ thứ 3, Daisen Kofun có chiều rộng khoảng 305m và chiều dài là 486m.

Giai đoạn Asuka và Nara:

Vào thời kỳ Asuka (550-710) dưới ảnh hưởng kiến trúc nhà Đường đặc biệt là đạo Phật được du nhập từ Trung Quốc, người Nhật đã xây dựng rất nhiều chùa thờ Phật. tác phẩm kiến trúc nổi tiếng nhất thời kỳ này là chùa Horiuri ( tháp Long tự) phía tây nam tỉnh Nara. Công trình này là một trong những công trình gỗ lâu đời nhất ở Nhật Bản nó được xây vào năm 607 bởi thái tử shotoku. quần thể kiến trúc bao gồm 41 tòa nhà trong đó có một số công trình nổi bật như Kim Đường, Ngũ Trọng Tháp, Trung Môn, Thánh Linh Viện, Mộng điện .Cũng như các công trình Chùa ở Trung Quốc các công trình ở chùa Horiuri cũng mang những đặc điểm tương tự như hệ cột, vì kèo gỗ, 2 tầng mái với ngói âm dương bằng gạch men