Asal mula desa taraman jaya adalah sebuah hutan belantara yang bernama hutan rengas. Pada tahun 1962 hutan rengas dibukak oleh lurah Saleh yang ketika itu menjabat sebagai kepala desa Krujon dan Letak hutan Rengas tersebut masih wilayah desa Krujon kemudia Pak Saleh memberi mandate kepada sekretaris desa yang bernama Pak Siswo Swito untuk memberi nama desa yang tadinya hutan belantara menjadi desa Taraman, nama Taraman diambil dari desa kelahiran lurah Saleh yaitu desa Taraman Kabupaten Desa Seragen Jawa Tengah. Desa Taraman satu Kecamatan Cempaka OKU. Pada tahun 1965 paska pecahnya pemberontakan G30 S PKI PJS di pegang oleh bapak Mad Pai karenakan bapak Siswo Swito yang menjabat kembali di jawa, di tahun1966 Kepala Desa bapak Mad Pai diganti oleh PJS Umar Wargo setelah itu 1967 dilanjutkan oleh bapak PJS Indrohium. Pada 1968 terjadilah pesta demokrasi di desa Taraman dan dimenangkan oleh bapak Mangun Sukarto sebagai kepala desa Taraman. Selanjutnya perubahan legenda dan sejarah desa Taraman Jaya sebagai berikut:
Pada tahun 1984 di adakan pesta demokrasi dan dimenangkan oleh bpk TUKIRIN Sampai 3 (tiga) periode yaitu samp[ai Tahun 2000. Setelah itu terjadi pesta demokrasi dan di menangkan oleh Bpk JOKO RIYADI. Dan pada tahun 2007 terjadi pemekaran dari desa Taraman menjadi Desa Taman Asri,kemudian pada tanggal 07 Bulan Juli Thun 2007 Desa Taman Asri ditetapkan sebagai Desa definitive dan berubah nama menjadi Desa Taraman Jaya pada Tahun 2008.
Struktur pemimpin selama berdirinya desa ini dapat dilihat pada table berikut
| No | Periode Tahun Jabatan | Nama Kepala Desa |
| 1. | 1968 S/D 1983 | MANGUN SUKARTO |
| 2. | 1984 S/D 2000 | TUKIRIN |
| 3. | 2001 S/D 2006 | JOKO RIYADI |
| 4. | 2007 | MUJIRAN |
| 5. | 2008 S/D 2020 | SUGIRAN |
| 6 | 2020 S/D 2021 | KUSWARA S,E (PJS) |
| 7. | 2021 S/D 2027 | FAHRUR |