Sejarah perpustakaan berawal dari perpustakaan Fakultas Keguruan dan Ilmu Pendidikan Universitas Indonesia (FKIP UI). Pada tanggal 16 mei 1964 FKIP berubah menjadi Institut Keguruan dan Ilmu Pendidikan (IKIP) Jakarta. Tahun 1970 sesuai SK Rektor IKIP Jakarta No.084, Perpustakaan IKIP Jakarta menjadi perpustakaan pusat yang bertugas mengkoordinir dan mengawasi perpustakaan yang berada di fakultas dan Sekolah Laboratorium Kependidikan. Berdasarkan Keputusan Mendikbud RI No.0193/0/1995 perpustakaan bertanggung jawab kepada Rektor dan dibawah pembinaan PR I. Pada tahun 1999 sesuai Keppres RI No.93/1999, IKIP Jakarta berubah status menjadi Universitas Negeri Jakarta, maka perpustakaan IKIP Jakarta berubah menjadi UPT Perpustakaan Universitas Negeri Jakarta.
Pada bulan Desember 2009, perpustakaan telah mendapatkan sertifikat ISO 9001-2008 Number.QS.7215 dari World Quality Assurance (WQA) dan sampai kini masih berhak memegang sertifikat ISO tersebut.
Menjadikan perpustakaan UNJ yang tanggap tehadap kebutuhan sumber informasi pemustaka baik secara internal maupun eksternal sesuai dengan era globalisasi.
Secara umum perpustakaan dapat berfungsi sebagai pusat informasi, pendidikan, penelitian, dan rekreasi. Khusus mengenai fungsi Perpustakaan Perguruan Tinggi dapat ditinjau dari segi pelayanan, program kegiatan, dan pelaksanaan.
Dari segi pelayanan berfungsi sebagai Pusat pengumpulan informasi, Pusat pelestarian informasi, Pusat pengelolaan informasi, Pusat pemanfaatan informasi dan Pusat penyebarluasan informasi
Dari segi program kegiatan berfungsi untuk menunjang tercapainya tridharma Perguruan Tinggi, yaitu pendidikan dan pengajaran, penelitian dan pengembangan (R&D) dan pengabdian pada masyarakat. Dari segi pelaksanaan berfungsi sebagai akademis edukatif dan administratif teknis.
Perpustakaan UNJ memiliki koleksi sumber bacaan berupa Buku, Jurnal, Kliping, Referensi, Majalah, Koran, Laporan Penelitian, Skripsi, Tesis dan Disertasi.
Perpustakaan UNJ memiliki fasilitas ruang baca, loker, loket sirkulasi, BI Corner, Disability Corner, ruang diskusi, kantin, musholla, toilet, wifi dan fotokopi.
Pelayanan Sirkulasi mencakup; Peminjaman dan Pengembalian Buku, Bebas Pustaka, Pendaftaran Anggota , Pelayanan non Anggota serta Penggantian Pinjaman Buku Hilang.
BI Corner merupakan pojok bacaan yang diberikan Bank Indonesia melalui program Corporate Social Responsibilty (CSR) bertajuk ‘Indonesia Cerdas’ untuk mengedukasi masyarakat.
Disability Corner merupakan pojok bacaan dengan jenis koleksi tertentu bagi pemustaka dengan kondisi khusus. Merupakan hasil kerja sama dengan jurusan Pendidikan Luar Biasa FIP UNJ.
