Tarekat Qodiryah didirikan oleh Syeikh Abdul Qodir Jaelani (wafat 561 H/1166M) yang bernama lengkap Muhyuddin Abu Muhammad Abdul Qodir ibn Abi Shalih Zango Dost al-Jaelani. Lahir di di Jilan tahun 470 H/1077 M dan wafat di Baghdad pada 561 H/1166 M. Dalam usia 8 tahun ia sudah meninggalkan Jilan menuju Baghdad pada tahun 488 H/1095 M. Karena tidak diterima belajar di Madrasah Nizhamiyah Baghdad, yang waktu itu dipimpin Ahmad al-Ghazali, yang menggantikan saudaranya Abu Hamid al-Ghazali. Tapi, al-Ghazali tetap belajar sampai mendapat ijazah dari gurunya yang bernama Abu Yusuf al-Hamadany (440-535 H/1048-1140 M) di kota yang sama itu sampai mendapatkan ijazah.
Pada tahun 521 H/1127 M, dia mengajar dan berfatwa dalam semua madzhab pada masyarakat sampai dikenal masyarakat luas. Selama 25 tahun Abdul Qadir Jaelani menghabiskan waktunya sebagai pengembara sufi di Padang Pasir Iraq dan akhirnya dikenal oleh dunia sebagai tokoh sufi besar dunia Islam. Selain itu dia memimpin madrasah dan ribath di Baghdad yang didirikan sejak 521 H sampai wafatnya di tahun 561 H. Madrasah itu tetap bertahan dengan dipimpin anaknya Abdul Wahab (552-593 H/1151-1196 M), diteruskan anaknya Abdul Salam (611 H/1214 M). Juga dipimpinan anak kedua Abdul Qadir Jaelani, Abdul Razaq (528-603 H/1134-1206 M), sampai hancurnya Bagdad pada tahun 656 H/1258 M.
Sejak itu tarekat Qodiriyah terus berkembang dan berpusat di Iraq dan Syria yang diikuti oleh jutaan umat yang tersebar di Yaman, Turki, Mesir, India, Afrika dan Asia. Namun meski sudah berkembang sejak abad ke-13, tarekat ini baru terkenal di dunia pada abad ke 15 M. Di India misalnya baru berkembang setelah Muhammad Ghawsh (w 1517 M) juga mengaku keturunan Abdul Qodir Jaelani. Di Turki oleh Ismail Rumi (w 1041 H/1631 M) yang diberi gelar (mursyid kedua). Sedangkan di Makkah, tarekat Qodiriyah sudah berdiri sejak 1180 H/1669 M.
.”
Mungkin karena keluasannya tersebut, sehingga terdapat puluhan tarekat yang masuk dalam kategori Qidiriyah di dunia Islam. Seperti Banawa yang berkembang pada abad ke-19, Ghawtsiyah (1517), Junaidiyah (1515 M), Kamaliyah (1584 M), Miyan Khei (1550 M), Qumaishiyah (1584), Hayat al-Mir, semuanya di India. Di Turki terdapat tarekat Hindiyah, Khulusiyah, Nawshahi, Rumiyah (1631 M), Nabulsiyah, Waslatiyyah. Dan di Yaman ada tarekat Ahdaliyah, Asadiyah, Mushariyyah, ‘Urabiyyah, Yafi’iyah (718-768 H/1316 M) dan Zayla’iyah. Sedangkan di Afrika terdapat tarekat Ammariyah, Bakka’iyah, Bu’ Aliyya, Manzaliyah dan tarekat Jilala, nama yang biasa diberikan masyarakat Maroko kepada Abdul Qodir Jilani. Jilala dimasukkan dari Maroko ke Spanyol dan diduga setelah keturunannya pindah dari Granada, sebelum kota itu jatuh ke tangan Kristen pada tahun 1492 M dan makam mereka disebut “Syurafa Jilala”.
Dari ketauladanan nabi dan sabahat Ali ra dalam mendekatkan diri kepada Allah swt tersebut, yang kemudian disebut tarekat, maka tarekat Qodiriyah menurut ulama sufi juga memiliki tujuan yang sama. Yaitu untuk mendekat dan mendapat redha dari Allah swt. Oleh sebab itu dengan tarekat manusia harus mengetahui hal-ikhwal jiwa dan sifat-sifatnya yang baik dan terpuji untuk kemudian diamalkan, maupun yang tercela yang harus ditinggalkannya.
Misalnya dengan mengucapkan kalimat tauhid, zikir “Laa ilaha Illa Allah” dengan suara nyaring, keras (zahir) yang disebut (nafi isbat) adalah contoh ucapan zikir dari Syiekh Abdul Qadir Jaelani dari Sayidina Ali bin Abi Thalib ra, hingga disebut tarekat Qodiriyah. Selain itu dalam setiap selesai melaksanakan shalat lima waktu (Dhuhur, Asar, Maghrib, Isya’ dan Subuh), diwajibkan membaca istighfar tiga kali atau lebih , lalu membaca salawat tiga kali, Laailaha illa Allah 165 (seratus enam puluh lima) kali. Sedangkan di luar solat agar berzikir semampunya.
Dalam mengucapkan lafadz Laa pada kalimat “Laa Ilaha Illa Allah” kita harus konsentrasi dengan menarik nafas dari perut sampai ke otak.
Menurut ulama sufi (al-Futuhat al-Rubbaniyah), melalui tarekat mu’tabarah tersebut, setiap muslim dalam mengamalkannya akan memiliki keistimewaan, kelebihan dan karomah masing-masing. Ada yang terkenal sebagai ahli ilmu agama seperti sahabat Umar bin Khattab, ahli syiddatil haya’ sahabat Usman bin Affan, ahli jihad fisabilillah sahabat Hamzah dan Khalid bin Walid, ahli falak Zaid al-Farisi, ahli syiir Hasan bin Tsabit, ahli lagu Alquran sahabat Abdillah bin Mas’ud dan Ubay bin Ka’ab, ahli hadis Abi Hurairah, ahli adzan sahabat Bilal dan Ibni Ummi Maktum, ahli mencatat wahyu dari Nabi Muhammad saw adalah sahabat Zaid bin Tsabit, ahli zuhud Abi Dzarr, ahli fiqh Mu’ad bin Jabal, ahli politik peperangan sahabat Salman al-Farisi, ahli berdagang adalah Abdurrahman bin A’uf dan sebagainya.
Tarekat (thariqah) secara harfiah berarti “jalan” sama seperti syariah, sabil, shirath dan manhaj. Yaitu jalan menuju kepada Allah guna mendapatkan ridho-Nya dengan mentaati ajaran-ajaran-Nya. Semua perkataan yang berarti jalan itu terdapat dalam Alquran, seperti QS Al-Jin:16,” Kalau saja mereka berjalan dengan teguh di atas thariqah, maka Kami (Allah) pasti akan melimpahkan kepada mereka air (kehidupan sejati) yang melimpah ruah”.
Istilah thariqah dalam perbendaharaan kesufian, merupakan hasil makna semantik perkataan itu, semua yang terjadi pada syariah untuk ilmu hukum Islam. Setiap ajaran esoterik/bathini mengandung segi-segi eksklusif. Jadi, tak bisa dibuat untuk orang umum (awam). Segi-segi eksklusif tersebut misalnya menyangkut hal-hal yang bersifat “rahasia” yang isi kerohaniannya berat, sehingga membuatnya sukar dimengerti. Oleh sebab itu mengamalkan tarekat itu harus melalui guru (mursyid) dengan bai’at dan guru yang mengajarkannya harus mendapat ijazah, talqin dari guru tarekat sebelumnya. Seperti terlihat pada silsilah ulama sufi dari Rasulullah saw, sahabat, ulama sufi di dunia Islam sampai ke ulama sufi di Malaysia.