Lịch sử khẳng định cách đây hàng nghìn năm, thủ lĩnh bộ lạc Văn Lang đứng lên thống nhất 15 bộ lạc người Việt lập nên Nhà nước Văn Lang, xưng vua lấy biệt hiệu là Hùng Vương, Địa bàn Chiềng Đen lúc đó thuộc bộ Tân Hưng.

Đến triều nhà Trần (thế kỳ XIII) bộ máy hành chính được kiện toàn từ Trung ương đến địa phương, Chiềng Đen ngày ngay thuộc đất châu Gia Hưng, trấn Thiên Hưng. Sang thời Lê (thế kỷ XV) theo “Dư địa chí” của Nguyễn Trái, phủ Gia Hưng lúc ấy có một huyện là Thanh Xuyên và 5 châu gồm: Châu Mai, Châu Mộc, Châu Việt (nay là Yên Châu), châu Thuận, châu Phù Hoa (nay là Yên Châu). Vùng đất Chiềng Đen thuộc châu Thuận, phủ Gia Hưng, xứ Hưng Hóa (Hưng Hóa Từ tuyên).

Theo sách “Hưng Hóa phong thổ lục” của Hoàng Bình Chính, đầu đời Lê Cảnh Hưng, khoảng năm 1967 – 1782, châu Thuận vì quá rộng nên cắt đặt thêm 3 châu là Mường La, Mai Sơn, Tuần Giáo. Địa bàn Chiềng Đen thuộc châu Mường La.

Ngày 24/5/1886, pháp thành lập châu Sơn La thuộc phủ Gia Hưng, tỉnh Hưng Hóa.  Sau đó, pháp chia vùng thượng du Bắc bộ thành 4 đạo quân binh, cai trị theo chế độ quân quản thì tỉnh Sơn La thuộc đạo quân binh 4. Ngày 27/2/1892, Pháp thành lập tiểu quân khu Vạn Bú (gồm 2 phủ và 8 châu). Đến 10/10/1895, thành lập Vạn Bú, ngày 23/8/1904 đổi  tỉnh Vạn Bú thành tỉnh Sơn La.

Trước năm 1975, xã Chiềng Đen gồm các bản Nam, Phiêng Nghè, Bôm Nam, Bản Giáng,thuộc xổng Hua Luông và các bản Tam, bản Pảng, Tò Lọ, Lốm Tòng thuộc xổng Peng. Hai xổng Hua Luông, xổng Peng thuộc châu Mường La, tỉnh Sơn La.

Cách mạng Tháng Tám năm 1945 thành công, xã Chiềng Đen thuộc xã Chiềng Xôm. Từ Năm 1954, thực hiện chủ trương của cấp trên, xã Chiềng Xôm được chia tách thành 4 xã, trong đó có xã Chiềng Đen và xã Chiềng Cang. Xã Chiềng Đen có 4 bản: Bản Tam, Bản Pảng, Bản Tò Lọ, Bản Lốm Tòng. Xã Chiềng Cang gồm 4 bản: Bản Nam, Bản Phiêng Nghè, Bản Bôm Nam, Bản Giáng.

Kháng chiến chống pháp thắng lợi, ngày 29/4/1955, tỉnh Sơn La giải thể, các châu trực thuộc nằm quản lý trực tiếp của khu tự trị Thái mèo (sau đổi tên thành khu tự trị Tây Bắc) mới được thành lập. Năm 1961, theo Quyết định số 85/QĐ/TC của Ủy ban hành chính khu tự trị Thái mèo về việc hợp nhất các xã thuộc châu Mường La, hai xã Chiềng Cang và xã Chiềng Đen hợp nhất làm  1 xã , lấy tên là Chiềng Đen.

Ngày 24/12/1962, tỉnh Sơn La được tái lập gồm 7 huyện: Thuận Châu, Quỳnh Nhai, Mường La, Mai Sơn, Sông Mã, Yên Châu, Mộc Châu và Thị xã Sơn La. Xã Chiềng Đen thuộc huyện Mường La.

Tháng 3/1979, để tạo điều kiện mở rộng địa giới hành chính và phát triển thị xã Sơn La, xã Chiềng Đen tách từ huyện Mường La sắp nhập vào thị xã Sơn La. Xã Chiềng Đen ổn định và quản lý hành chính, từ đó có 14 bản:

1.Bản Lốm Tòng	8. Bản Nong Bay
2. Chiềng Xét	9. Bản Phiêng Tam
3.Bản Pảng	10. Bản Phiêng Niệu
4.Bản Tò Lọ	11. Bản Nam
5. Bản Tam	12. Bản Phiêng Nghè
6. Bản Quỳnh Tam	13. Bản Bôm Nam
7. Bản Quỳnh Phố	14. Bản Giáng

Đến tháng 7/2019, sắp nhập 14 bản với nhau còn 11 bản bản:  

1.Bản Tòng Xét	7. Bản Phiêng Tam
2.Bản Pảng	8. Bản Nam Niệu
3.Bản Nong Lọ	9. Bản Phiêng Nghè
4.Bản Quỳnh Tam	10. Bản Bôm Nam
5. Bản Tam	11. Bản Giáng
6. Bản Quỳnh Phố