Nagari Sungai Rumbai semula adalah Desa Sungai Rumbai yang merupakan salah satu desa yang ada di Kecamatan Koto Baru, Kabupaten Sawahlunto/Sijunjung sekitar tahun 1977. Sebelum menjadi Desa, Sungai Rumbai merupakan tepatan pemerintahan Nagari Koto Besar dan waktu itu dipimpin oleh bapak Muhammad AM sekitar Tahun 1976.

Asal kata Sungai Rumbai menurut wari nan bajawek, imanat nan bapocik dari urang tuo-tuo terdahulu berasal dari nama aliran sungai kecil yang ditumbuhi tanaman ”rumbai“ yakni tanaman yang bisa dijadikan lapik (tikar). Sungai Rumbai juga bisa diartikan sungai tampek mandi lapik untuk aleh  sumbayang (Sungai tempat memandikan tikar untuk sembahyang). Adapun Sungai tersebut adalah sungai kecil yang mengalir dari wilayah Koto Besar dan bermuara di Sungai Betung wilayah perbatasan Nagari Sungai Rumbai dengan Nagari Koto Baru.

Terletak  di tengah daerah transmigrasi dan dipinggir jalan lintas Sumatera membuat Desa Sungai Rumbai menjadi tempat yang ramai dikunjungi orang yang akan berkunjung ke daerah transmigrasi yakni transmigrasi Sitiung II, III dan IV, sehingga Desa Sungai Rumbai berkembang menjadi pusat transit orang dan barang. Selanjutnya pada 1984-1985 ada pembangunan perkebunan kelapa sawit oleh PT. Tidar Kerinci Agung (PT. TKA) di wilayah Batu Kangkung (Asam Jujuhan), dan PT. Incasi Raya di Pangian menjadikan Desa Sungai Rumbai berkembang sebagai pusat perdagangan. Hal ini semakin didukung dengan pembangunan pasar Inpres Sungai Rumbai yang dibangun sekitar tahun 1985.

Selanjutnya juga pada tahun 1985 terbentuk kecamatan perwakilan Koto Baru yang berpusat di Desa Sungai Rumbai, dan pada tahun 1995 menjadi kecamatan Sungai Rumbai (definitif) dengan ibukota Desa Sungai Rumbai.

Seiring dengan lahirnya Peraturan Daerah Propinsi Sumatera Barat No. 9 Tahun 2000 tentang Ketentuan Pokok Pemerintahan Nagari yang didasarkan pada pasal 93 ayat (1) UU No. 22 Tahun 1999 tentang Pemerintahan Desa maka Desa Sungai Rumbai mengikutinya dengan bertransformasi menjadi nagari.

Untuk memenuhi syarat sebagai nagari maka melalui proses adat dibentuk ninik mamak yang diberikan kuasa oleh Tuanku Kerajaan, Raja Nagari Koto Besar, pemegang kekuasaan di Nagari Koto Besar untuk membentuk nagari baru yang tetap merupakan bagian dari Nagari Koto Besar sebagai pemegang ulayat wilayah Desa Sungai Rumbai.

Adapun ninik mamak yang dibentuk terdiri dari 7 Suku yang lebih dikenal dengan Ninik Mamak Tujuh Suduik, yakni Suku Patopang, Piliang, Malayu Rumah Nan Ampek, Malayu Koto Tinggi, Malayu Kampuang Malayu, Malayu Talao Aia Hitam, Caniago.

Pada tanggal 2 Juli 2009 ditetapkan Peraturan Daerah Kabupaten Dharmasraya Nomor 4 Tahun 2009 Tentang Pembentukan Dan Penataan Nagari dimana Nagari Sungai Rumbai dimekarkan menjadi dua nagari yaitu Nagari Sungai Rumbai dan Nagari Sungai Rumbai Timur. Maka mulai saat itu wilayah Nagari Sungai Rumbai menjadi 2 dengan lintas Sumatera sebagai pembatasnya sebelah timur Lintas Sumatera adalah Nagari Sungai Rumbai Timur dan sebelah Barat lintas Sumatera Nagari Sungai Rumbai.

Walaupun sudah dimekarkan menjadi dua nagari ninik mamak Nagari Sungai Rumbai dan Nagari Sungai Rumbai Timur tetap satu masih dengan Ninik Mamak Tujuh Suduik sama dengan sebelum pemekaran. Tetapi ninik mamak tujuh suduik saat ini memiliki wilayah anak cucu kemanakan di dua Nagari yakni Nagari Sungai Rumbai dan Nagari Sungai Rumbai Timur.

Bapak H. Rasul Hamidi (Alm) bisa dikatakan sebagai salah satu pendiri Nagari Sungai Rumbai karena dari awal terbentuknya Desa Sungai Rumbai beliaulah yang menjadi Kepala Desa dan saat menjadi nagari beliau masih dipercaya masyarakat sebagai wali nagari. Beliau adalah keturunan dari Tuanku Kerajaan, raja Koto Besar pemegang ulayat yang ada di Nagari Sungai Rumbai. Dan saat ini melalui pemilihan wali nagari serentak tahun 2022 terpilih bapak Sutan Riski anak dari bapak H. Rasul Hamidi sebagai wali Nagari Sungai Rumbai sampai dengan tahun 2028.