Di Sragen lembaga kearsipan ada sejak berdirinya Pemerintah Kabupaten Sragen. Saat itu masih menjadi satu dengan Bagian Umum Setda Kabupaten Sragen. Sejak Tahun 2008 Kantor Arsip dan Dokumentasi Kabupaten Sragen berdiri berdasarkan Peraturan Daerah Kabupaten Sragen No. 15 Tahun 2008 tentang Organisasi dan Tata Kerja Lembaga Teknis Daerah Kabupaten Sragen yang diperbarui dengan Peraturan Daerah Kabupaten Sragen No. 5 Tahun 2011.
Sebagai salah satu sumber informasi, arsip memiliki fungsi dan peranan yang sangat penting didalam mendukung kegiatan pemerintahan. Dalam sistem administrasi pemerintahan maupun manajemen modern, tata kelola kearsipan memiliki posisi dan peran yang sangat penting. Apabila tidak didukung dengan arsip/dokumen, tidak akan berjalan dengan baik tata administrasinya.
Dengan kata lain, bahwa tidak akan berjalan suatu administrasi tanpa adanya arsip. Administrasi dan arsip merupakan satu kesatuan yang saling mempengaruhi. Tindakan penyelamatan arsip merupakan tindakan penyelamatan kehidupan berbangsa dan bernegara, karena keberadaan arsip berguna bagi pembelajaran, penelitian, penegasan jati diri bangsa, bukti sejarah masa lalu, sumber informasi dan simpul pemersatu bangsa. Oleh karena itu, arsip harus dikelola secara profesional dalam suatu sistem yang terpadu.
Sementara itu, Perpustakaan daerah ini berdiri sejak tanggal 17 Mei 1980 di Jl. Pemuda No. 1 Sragen. Saat itu dikelola oleh Bagian Hukum dan Ortala Setwilda Tk. II Sragen berdasarkan Perda No 10 Tahun 1980.
Berdasarkan Perda No 11 Tahun 1990 dikelola Bagian Ortala Setwilda Tk. II Sragen. Selanjutnya dengan adanya perubahan susunan organisasi dan tata kerja pada tahun 1992 dikelola oleh Bagian Organisasi Setwilda Tk. II Sragen berdasarkan Perda No 13 Tahun 1992.
Tahun 1996 berdiri sendiri sebagai Unit Pelaksana Teknis Daerah Perpustakaan Umum Kabupaten Dati II Sragen dengan Perda No 17 Tahun 1996.
Pada tahun 2001 pada era otonomi daerah, perpustakaan daerah berdiri sendiri sebagai instansi eselon III menjadi Kantor Perpustakaan Kabupaten Sragen berdasarkan Perda No 3 Tahun 2001.
Pada tahun 2004 digabung dengan Dinas P & K Kabupaten Sragen menjadi UPTD Perpustakaan Dinas P & K Kab. Sragen berdasarkan Peraturan Bupati Sragen Nomor 7 Tahun 2004
Pada tahun 2008 ditetapkan kembali menjadi Kantor Perpustakaan Daerah Kabupaten Sragen berdasarkan Peraturan Daerah Kabupaten Sragen Nomor 15 Tahun 2008.
Kantor Arsip dan Dokumentasi akhirnya resmi digabung dengan Kantor Perpustakaan Daerah Kabupaten Sragen menjadi Dinas Arsip dan Perpustakaan Kabupaten Sragen berdasarkan Peraturan Daerah Kabupaten Sragen Nomor 5 Tahun 2016 Tanggal 28 November 2016.