Nama Desa Pegajahan awalnya dinamai Kuta atau Kampung Pergajahan, diambil dari bahasa daerah hutan yang banyak dihuni binatang gajah. Tahun 1812-1830 orang-orang Jawa turut bermukim di Kampong Pegajahan dan membuka lahan. Pada masa itu Pemerintahan Hindia Belanda membuka lahan perkebunan tembakau dan karet di sekitar Kampung Pegajahan sampai ke Kampung Melati I Perbaungan.
Banyak sekali buruh yang di datangkan dari Jawa dan Kalimantan. Tahun 1901 etnis Simalungun, Jawa dan Kalimantan yang menggarap dan membuka lahan pertanian, dari pendapatan hasil tani, kelapa, pisang, dan lain-lain diharuskan membayar upeti kepada raja (Sultan). Kemudian Sultan Serdang memberikan bantuan tanaman kelapa, kopi dan pinang kepada pengrajin jawa untuk menambah penghasilan dan dapat memberikan upeti kepada sultan.
Setelah Indonesia merdeka, tanah perkebunan yang berada dalam keadaan kosong kembali digarap oleh rakyat dan keluarlah UUD Darurat No 8 / 1954 tentang tanah garapan bekas perkebunan. Setelah tahun 1955 pemerintahan desa bersama dengan masyarakat membangun berbagai sarana dan prasarana demi kemajuan desanya. Sistem pemerintahan kepala kampung ditunjuk dari hasil musyawarah tokoh masyarakat dan disetujui oleh sultan.
Berdasarkan administrasi pemerintahan, Desa Pegajahan merupakan salah satu desa yang berada di Kecamatan Pegajahan, Kabupaten Serdang Bedagai (Sergai) Provinsi Sumatera Utara yang terbagi atas 6 dusun yaitu : Dusun perjuangan, Dusun Harapan I, Dusun Harapan II, Dusun Sari Asih, Dusun Karang Asih, dan dusun Pelita Adapun batas-batas wilayah Desa Pegajahan yaitu: sebelah utara berbatasan dengan desa Lestari Dadi, sebelah timur berbatasan dengan Desa Sei Sialang, sebelah barat berbatasan dengan Desa Bingkat, sebelah selatan berbatasan dengan Desa Sukasari.
Ketinggian tempat dari permukaan laut yaitu ≤ 50m termasuk dataran rendah dengan suhu udara rata-rata 27-32C. jarak dari pusat kota pemerintahan kecamatan 200m dan jarak dari ibu kota kabupaten 36 km.
Desa Pegajahan termasuk salah satu daerah yang strategis yang merupakan daerah perkembangan kecamatan. Hal tersebut dikarenakan bersarnya semangat kerjasama masyarakat desa Pegajahan untuk mengembangkan desanya, kepedulian masyarakat untuk membangun fasilitas-fasilitas yang diperlukan seperti sekolah, rumah ibadah, jembatan, jalan dan sebagainya.
Berdasarkan data yang diperoleh dari Kantor Kepala Desa Pegajahan tercatat jumlah penduduk yang ada di desa pegajahan sebanyak 4.274 jiwa atau sekitar 1.151 kepala keluarga (KK) yang terdiri dari 2.215 jiwa laki-laki dan 2.059 jiwa perempuan. Komposisi penduduk berdasarkan umur dikelompokkan menjadi 3-5 tahun, 5-7 tahun, 13-15 tahun, 16-18 tahun dan 19 tahun ke atas.
Kehidupan masyarakat Desa Pegajahan sangat kental dengan tradisi peninggalan leluhur. Upacara adat yang berhubungan dengan siklus hidup manusia (lahir-dewasa-berumah tangga-mati) seperti upacara kelahiran, khitanan, perkawinan, dan upacara yang berhubungan dengan musibah kematian hampir selalu dilakukan oleh warga masyarakat Desa Pegajahan. Selain itu, tradisi sedekah bumi, tolak balak, turun bibit, punggahan, surahan, dan sejenisnya masih dilakukan oleh masyarakat. Gotong-royong masyarakat masih kuat, semua itu menggambarkan bahwa hubungan ketanggaan di Desa Pegajahan ini masih kuat.
Sedangkan kesenian asli daerah seperti tari melayu (ronggeng kampong, ludruk, kerawitan) kurang diminati/digemari oleh generasi muda. Kegiatan pengamanan (siskamling) Desa Pegajahan ini tampak kurang aktif, karena semakin banyak waktu yang digunakan oleh warga masyarakat untuk mencari nafkah (bekerja), tetapi kondisi keamanan masih aman (warga tetap waspada).
Secara rinci fasilitas umum di Desa Pegajahan Kecamatan Pegajahan, Kecamatan Pegajahan, Kabupaten Sergai terdiri dari Kantor Kepala Desa, PAUD, SD, SMP, SMA, SMK, Masjid, Musholla, Pura, Gereja dan Puskesmas. Berikut adalah fasilitas umum di Desa Pegajahan Kecamatan Pegajahan, Kabupaten Sergai. (berbagai sumber/ISL).
