Perpustakaan SMAN 3 Jakarta lahir pada sekitar tahun 1955-an, beberapa tahun setelah kegiatan belajar mengajar di SMAN 3 Setiabudi dimulai. Hal ini sebagai wujud kebutuhan dasar sebuah institusi pendidikan.
Pada awalnya Perpustakaan SMAN 3 menempati salah satu ruang kelas di Gedung Utama. Lalu pada tahun 1980-an seiring dengan berkembangnya kebutuhan akan ruang yang lebih representatif, perpustakaan menempati ruangan tersendiri. Lokasinya ada di belakang masjid dan posisinya berdempetan dengan masjid tersebut. Walaupun sudah menempati ruangan sendiri, namun lokasinya kurang memenuhi syarat karena tersembunyi dan jauh dari area belajar peserta didik.
Pada tahun 1990-an perpustakaan pindah lagi, kali ini menempati 2 buah ruangan kelas dari 6 ruang kelas yang baru saja dibangun. Kali ini kondisi ruangannya dan lokasinya sudah sangat memadai.
Pada tahun 2008 alumni SMAN 3 Jakarta Angkatan tahun 1982 membangun perpustakaan SMAN 3 Jakarta dengan cara merenovasi 4 ruang kelas dari 6 ruang kelas yang 2 ruang kelas di antaranya saat itu digunakan oleh Perpustakaan SMAN 3 Jakarta. Perpustakaan tersebut diberi nama Perpustakaan Teladan ’82. Sejak saat itu SMAN 3 Jakarta memiliki gedung perpustakaan sendiri.
Gedung perpustakaan tersebut diresmikan pada tanggal 8 Agustus 2008 oleh Ketua Angkatan 1982 yaitu Bpk. Effendi MS. Simbolon dan diserahterimakan kepada Kepala Dinas Pendidikan Prov. DKI Jakarta pada saat itu yaitu Bpk. Margani M. Mustar.

Gedung perpustakaan Teladan SMAN 3 Jakarta (25/10/22)
Pada bulan Oktober-November 2022 Perpustakaan Teladan ’82 direvitalisasi kembali oleh Alumni SMAN 3 Jakarta Angkatan 1982 bersamaan dengan persiapan akreditasi yang sedang dilakukan oleh Tim Akreditasi Perpustakaan SMAN 3 Jakarta
Pada bulan Desember 2022 Perpustakaan Teladan ’82 mengikuti proses akreditasi dengan dukungan penuh dari Suku Dinas Pendidikan Wilayah 2 Kota Administrasi Jakarta Selatan, Dinas Perpustakaan dan Kearsipan Provinsi DKI Jakarta dan tentu saja Dinas Pendidikan Provinsi DKI Jakarta.
Alhamdulillah akhirnya perjuangan dan kerja keras dari Tim Akreditasi Perpustakaan SMAN 3 Jakarta yang didukung oleh seluruh stakeholder membuahkan hasil yang sangat memuaskan, yaitu memperoleh Nilai A.
Selanjutnya Perpustakaan Teladan ’82 diberi nama Perpustakaan TELADAN SMA Negeri 3 Jakarta, agar mendapatkan pengakuan dan rasa memiliki yang lebih luas dari seluruh stakeholder SMAN 3 Jakarta.