Provinsi Kepulauan Bangka Belitung pada awalnya merupakan bagian dari wilayah provinsi Sumatera Selatan yang  terdiri dari 1 (satu) wilayah yaitu Kota Pangkalpinang dan 2 (dua) wilayah Kabupaten yaitu Bangka dan Belitung. Secara goegrafis provinsi Kepulauan Bangka Belitung terletak di sebuah kepulauan yaitu Bangka Belitung yang  terpisah dengan provinsi Sumatera Selatan sebagai provinisi induknya.

Seiring dengan perkembangan era reformasi yang menurut terjadinya pemerataan pembangunan yang lebih cepat di beberapa daerah di Indonesia termasuk juga di Kepulauan Bangka Belitung berharap adanya pemekaran wilayah yang semula hanya berbentuk Kepulauan yang terdiri dari 1 (satu) wilayah yaitu Kota Pangkalpinang dan 2 (dua) wilayah Kabupaten yaitu Bangka dan Belitung menjadi sebuah provinsi sendiri. Dari ketiga wilayah ini telah berdiri 3 (tiga) Peradilan Agama, yaitu :

Ketiga Pengadilan Agama tersebut dengan wilayah hukumnya masing-masing selama ini masih dibawah wilayah hukum Pengadilan Tinggi Agama Palembang

Kebutuhan adanya Pengadilan Agama dan Pengadilan Tinggi Agama di suatu daerah atau wilayah adalah semata-mata didasarkan pada keinginan untuk lebih meningkatkan pelayanan hukum bagi masyarakat pencari keadilan di daerah atau wilayah tersebut. Kebutuhan ini seiring pula dengan semakin berkembangnya pembangunan khususnya pembangunan dibidang hukum.

Dalam Undang-Undang Nomor 3 Tahun 2006 tentang perubahan atas Undang-Undang Nomor 7 Tahun 1989 tentang Peradilan Agama pada pasal 4 ayat (2) menyebutkan bahwa “Pengadilan Tinggi Agama berkedudukan di ibukota provinsi dan daerah hukumnya meliputi wilayah provinsi”. Pasal ini memberikan isyarat bahwa setiap provinsi harus terdapat Pengadilan Tinggi Agama.  Dengan terbentuknya provinsi Kepulauan Bangka Belitung yang menjadi provinsi sendiri berdasarkan pada Undang-undang Nomor 27 Tahun 2000 tentang Pembentukan Provinsi Kepulauan Bangka Belitung. Maka hal tersebut menjadi bahan pertimbangan untuk membentuk Pengadilan Tinggi Agama di Provinsi Kepulauan Bangka Belitung.

Sesuai dengan Undang-undang Nomor 5 Tahun 2005 terbentuklah Pengadilan Tinggi Agama Kepulauan Bangka Belitung dan diresmikan pada tanggal 11 April 2006, maka ketiga Pengadilan Agama yang ada di kepulauan ini sebagaimana tersebut diatas resmi masuk wilayah hukum Pengadilan Tinggi Agama Kepulauan Bangka Belitung dan keluar dari wilayah hukum Pengadilan Tinggi Agama Palembang, sebagaimana berita acara serah terima tanggal 11 April 2006.

Pembentukan Pengadilan Tinggi Agama Kepulauan Bangka Belitung  pada hakekatnya untuk meningkatkan pelayanan dibidang hukum perdata agama dan seluruh yang menjadi kewenanggannya dalam rangka pemerataan kesempatan memperoleh keadilan serta demi tercapainya penyelesaian perkara dengan sederhana, cepat dan biaya ringan.

Dengan terbentuknya provinsi ini didasarkan pada Undang-undang Nomor 27 Tahun 2000, yang diiringi dengan semakin berkembangnya pembangunan di wilayah tersebut khususnya di bidang hukum, maka untuk meningkatkan pelayanan Hukum yang lebih maksimal serta mewujudkan tata peradilan yang sederhana, cepat dan biaya ringan, sangat diperlukan pengembangan perangkat/organisasi peradilan.

Dari dasar ini, maka akhirnya Pengadilan Tinggi Agama Kepulauan Bangka Belitung dibentuk berdasarkan Undang-undang Nomor 5 tahun 2005 tentang Pembentukan Pengadilan Tinggi Agama Kepulauan Bangka Belitung yang disahkan tanggal 19 Oktober 2005. Dan pada tanggal 4 April 2006 Bapak Drs. H.M. SALEH PUTEH, SH, dilantik oleh Ketua Mahkamah Agung RI sebagai Ketua Pengadilan Tinggi Agama Kepulauan Bangka Belitung yang pertama. Kemudian pada tanggal 11 April 2006 dilaksanakan peresmian beroperasinya Pengadilan Tinggi Agama Kepulauan Bangka Belitung oleh Bapak BAGIR MANAN Ketua Mahkamah Agung RI bertempat di lantai III Kantor Gubernur Propinsi Kepulauan Bangka Belitung. Pada tanggal 12 April 2006 Ketua Pengadilan Tinggi Agama Kepulauan Bangka Belitung melantik 3 (tiga) orang Hakim Tinggi, 4 (empat) orang pejabat kepaniteraan dan 4 (empat) orang pejabat kesekretariatan. Kemudian pada tanggal 29 Mei 2006 Bapak Drs. H.M. YAMIN AWIE, SH, MH, dilantik oleh Ketua Pengadilan Tinggi Agama Kepulauan Bangka Belitung sebagai Wakil Ketua Pengadilan Tinggi Agama Kepulauan Bangka Belitung.

Untuk tanah kantor Pengadilan Tinggi Agama Kepulauan Bangka Belitung, Pemerintah Provinsi Kepulauan Bangka Belitung semula telah menyiapkan tanah berukuran 3.200 m² yang berlokasi di daerah Perkantoran Gubernur Kelurahan Air Itam Kecamatan Bukit Intan Kota Pangkalpinang. Akan tetapi berdasarkan hasil konsultasi Ketua Pengadilan Tinggi Agama Kepulauan Bangka Belitung Drs. H.M. Saleh Puteh, SH, dengan Bapak Drs. H.A. Hudarni Rani, SH, Gubernur Provinsi Kepulauan Bangka Belitung tanggal 5 Mei 2006, lokasi tanah tersebut akan diganti dengan lokasi yang lebih strategis. Lokasi tersebut terletak di daerah yang sama, dengan ukuran yang memadai yaitu 4000 m².

Adapun mengenai gedung, Mahkamah Agung RI telah menganggarkan pembangunan gedung tersebut dalam Daftar Isian Pelaksanaan Anggaran (DIPA) tahun anggaran 2006. Dan sekarang telah selesai dibangun dua lantai dengan ukuran 800 m².

Gedung Pengadilan Tinggi Agama Kepulauan Bangka Belitung berada di Kota Pangkalpinang sebagai ibukota provinsi Bangka Belitung, terletak di Komplek Pekantoran dan Pemukiman Terpadu Kelurahan Air Itam Kecamatan Bukit Intan Kota Pangkalpinang. Dengan batas-batas sebagai berikut :