Bank kini telah menjadi kebutuhan bagi masyarakat, termasuk bagi kaum muslim. Namun, di dalam dunia perbankan modern penggunaan perangkat utamanya yaitu bunga. Penerapan bunga dalam perbankan bagi kaum muslim dilarang karena bunga termasuk "riba"dan tidak sesuai dengan hukum syariat islam.
Akhirnya pada abad ke-20 muncul sebuah rencana perlunya bank syariah yang bebas bunga demi melayani kaum muslim yang tidak berkenan dengan penerapan bunga. Setelah itu muncul sebuah lembaga keuangan modern berdasarkan landasan Islam terjadi karena didirikannya bank yang beroperasi tanpa bunga di Desa Mit Ghamir, di tepi Sungai Nil, Mesir pada tahun 1969 yang akhirnya ditutup karena masalah manajemen. Lalu pada tahun 1977 lahir Islamic Development Bank (IDB) yang kemudian membuat berbagai negara ikut mendirikan lembaga-lembaga keuangan dengan hukum syariat Islam, termasuk Indonesia.
Bank Islam pertama di Indonesia lahir pada tahun 1991 yaitu Bank Muamalat Indonesia (BMI). Namun berdirinya Bank Muamalat di Indonesia masih tergolong stagnan atau tidak bergerak. Hal tersebut terjadi karena keberadaan bank syariah belum mendapat perhatian dari perbankan nasional dan belum ada landasan hukum resmi untuk bank syariah sendiri.
Pada tahun 1999 didirikan lagi bank syariah kedua, yaitu Bank Syariah Mandiri (BSM) yang juga menjadi bank syariah kedua di Indonesia. Munculnya BSM menjadi penentu bagi para bankir syariah Indonesia untuk melanjutkan pembangunan bank syariah atau tidak. Ternyata BSM dengan cepat mengalami perkembangan di Indonesia dan membuat bank syariah di Indonesia tetap berjalan sampai sekarang.
Menurut data di situs OJK pada Desember 2019, jumlah bank syariah di Indonesia saat ini sekitar 198 bank syariah, yaitu ada 14 Bank Umum Syariah (BUS), ada 20 Unit Usaha Syariah (UUS), dan ada 164 Bank Pembiayaan Rakyat Syariah (BPRS). Bank syariah termasuk juga bank baru yang ada di Indonesia.
Dilihat dari survey data di situs OJK, perkembangan perbankan di Indonesia sudah termasuk baik dan menunjukkan kemajuan yang lumayan signifikan. Sebab dalam waktu 28 tahun telah ada sekitar 198 bank syariah yang terdaftar dalam situs OJK. Jika ke depannya perkembangan perbankan syariah tetap menunjukkan kemajuannya, dapat dipastikan perbankan syariah akan lebih besar lagi dan sama besarnya dengan bank konvensional.