Yên Bái là một trong những cái nôi sinh tồn của tộc người Việt cổ, với nền văn minh sông Hồng, sông Chảy để lại nhiều di chỉ, di vật quí báu như: Di cốt người có niên đại cách đây 14-18 vạn năm ở hang Hùm (Lục Yên), thạp đồng Đào Thịnh, thạp đồng Hợp Minh (Trấn Yên), trống đồng Phù Nham (Văn Chấn), Mông Sơn (Yên Bình), Khai Xuân (Lục Yên) và nhiều công cụ bằng đá, bằng đồng cùng khu tháp cổ đời Trần tại vùng Đại Cại (Lục Yên)… khẳng định mảnh đất Yên Bái là địa bàn sinh tụ của người Việt cổ, có nền văn hóa phát triển liên tục khá rực rỡ. Từ xa xưa, Yên Bái đã là một bộ phận quan trọng của Tổ quốc, nằm trên tuyến giao thông thủy, bộ huyết mạch nối liền nước ta với vùng Hoa Nam (Trung Quốc).

Thời vua Hùng, Yên Bái thuộc bộ Tân Hưng của nhà nước Văn Lang. Thời An Dương Vương – Thục Phán, Yên Bái thuộc quận Giao Chỉ.

Trải qua thời Bắc thuộc, đến thời kỳ nhà nước phong kiến Việt Nam độc lập, đời nhà Lý, Yên Bái thuộc châu Đăng, đời nhà Trần trong lộ Qui Hóa, từ thời Lê đến thời Nguyễn thuộc phủ Quy Hóa, tỉnh Hưng Hóa.

Trong quá trình xâm lược nước ta, tháng 2-1886, thực dân Pháp đánh lên vùng thượng lưu sông Thao. Chúng lập một mạng lưới đồn bốt dày đặc để kiểm soát, đặt các “ủy viên đặc biệt” của Chánh sứ theo dõi tình hình, nắm tin tức. Vùng đất Yên Bái lúc này thuộc các đạo quan binh (1891-1900). Ngày 11-4-1900, Toàn quyền Đông Dương ra Nghị định thành lập tỉnh Yên Bái, gồm các vùng đất của phủ Trấn Yên, hai châu Văn Bàn, Văn Chấn, tỉnh lỵ đặt tại làng Yên Bái, thuộc phủ Trấn Yên. Năm 1910, thực dân Pháp chuyển châu Lục Yên (thuộc tỉnh Tuyên Quang), năm 1920 chuyển châu Than Uyên (thuộc tỉnh Lai Châu) sáp nhập vào tỉnh Yên Bái.

Từ sau Cách mạng tháng Tám năm 1945, địa dư và các đơn vị hành chính của tỉnh Yên Bái có nhiều lần thay đổi. Năm 1955, hai châu Văn Chấn và Than Uyên tách khỏi Yên Bái chuyển về trực thuộc khu tự trị Thái – Mèo. Năm 1956, huyện Yên Bình (tỉnh Tuyên Quang) sáp nhập vào tỉnh Yên Bái. Năm 1957, một phần huyện Than Uyên và các xã Nậm Có, Khau Phạ (huyệnVăn Chấn) tách ra thành lập huyện Mù Cang Chải. Tháng 10-1962, Quốc hội quyết định đổi tên khu tự trị Thái – Mèo thành khu tự trị Tây Bắc và lập các tỉnh trực thuộc. Ngày 27-10-1962, thành lập tỉnh Nghĩa Lộ thuộc khu tự trị Tây Bắc, gồm các huyện Văn Chấn, Than Uyên, Phù Yên và Mù Cang Chải. Năm 1964, một phần huyện Văn Chấn tách ra thành lập huyện Trạm Tấu, một phần huyện Phù Yên tách ra thành lập huyện Bắc Yên.Tại tỉnh Yên Bái, đầu năm 1965, khu vực thượng huyện Lục Yên tách ra thành lập huyện Bảo Yên, vùng hạ huyện Văn Bàn và thượng huyện Trấn Yên tách ra thành lập huyện Văn Yên.

Ngày 27-12-1975, tại kỳ họp thứ 2 Quốc hội khóa V ra nghị quyết hợp nhất ba tỉnh Yên Bái, Nghĩa Lộ, Lào Cai thành tỉnh mới lấy tên là Hoàng Liên Sơn; hai huyện Bắc Yên, Phù Yênchuyển về tỉnh Sơn La. Ngày 03-01-1976, tỉnh Hoàng Liên Sơn chính thức đi vào hoạt động, tỉnh lỵ đặt tại thị xã Yên Bái.

Ngày 12-8-1991, kỳ họp thứ 9 Quốc hội khóa VIII ra nghị quyết chia tỉnh Hoàng Liên Sơn để tái lập tỉnh Yên Bái và tỉnh Lào Cai (bao gồm cả phần thuộc tỉnh Nghĩa Lộ cũ). Các huyện Than Uyên, Văn Bàn và Bảo Yên trước đây thuộc tỉnh Yên Bái chuyển về tỉnh Lào Cai. Tỉnh Yên Bái gồm thị xã Yên Bái và 7 huyện: Lục Yên, Mù Cang Chải, Trạm Tấu, Trấn Yên, Văn Chấn, Văn Yên, Yên Bình.

Ngày 15-5-1995, tái lập thị xã Nghĩa Lộ, trực thuộc tỉnh Yên Bái trên cơ sở thị trấn Nghĩa Lộ và một phần diện tích tự nhiên và dân số của huyện Văn Chấn[1].

Ngày 11-01-2002, nâng cấp thị xã Yên Bái thành thành phố Yên Bái, trực thuộc tỉnh Yên Bái[2].

Ngày 10-01-2020, sáp nhập một phần diện tích và dân số của huyện Văn Chấn vào thị xã Nghĩa Lộ[3].