Konsep rechtsstaat lahir dari suatu perjuangan yang menentang absolutisme sehingga sifatnya dapat dikatakan sangat revolusioner. Konsep rechtsstaat bertumpu atas sistem kontinental yang disebut civil law atau modern roman law. Karakteristik civil law adalah administratif. Karakteristik ini dilatarbelakangi kekuasaan raja. Pada zaman Romawi, kekuasaan yang menonjol dari raja ialah membuat peraturan melalui dekrit. Kekuasaan ini kemudian didelegasikan kepada pejabat-pejabat administratif, sehingga pejabat-pejabat administratif yang membuat pengarahan-pengarahan tertulis bagi hakim bagaimana memutus suatu sengketa. Begitu besarnya peranan administrasi negara, sehingga tidaklah mengherankan kalau dalam sistem kontinentallah mula pertama muncul cabang hukum baru yang disebut droit administratif dan inti dari droit administratif adalah hubungan antara administrasi negara dengan rakyat. Dalam Perkembangannya peranan administrasi negara ini bertambah besar. Dengan latar belakang ini dipikirkan langkah-langkah untuk membatasi kekuasaan administrasi negara.
Sedangkan konsep rule of law berkembang secara evolusioner. Konsep rule of law bertumpu atas sistem hukum yang disebut common law. Karakteristiknya adalah judicial. Hal ini dilatarbelakangi oleh kekuasaan utama dari raja adalah memutus perkara. Peradilan oleh raja kemudian berkembang menjadi suatu sistem peradilan, sehingga hakim-hakim peradilan adalah delegasi dari raja. Hakim harus memutus perkara berdasarkan kebiasaan umum Inggris, sebagaimana dilakukan oleh raja sendiri sebelumnya. Dengan keadaan ini dalam perkembangannya dipikirkan langkah-langkah untuk peradilan yang adil, penahanan yang tidak sewenang-wenang.
Perbedaan yang menonjol antara konsep ¬rechtsstaat dan rule of law menurut M. Tahir Azhary ialah pada konsep yang pertama peradilan administrasi negara merupakan suatu sarana yang sangat penting dan sekaligus pula ciri yang menonjol pada rechtsstaat itu sendiri. Sebaliknya pada rule of law, peradilan administrasi tidak diterapkan, karena kepercayaan masyarakat yang demikian besar kepada peradilan umum. Ciri yang menonjol pada konsep rule of law ialah ditegakkannnya hukum yang adil dan tepat (just law). Karena semua orang mempunyai kedudukan yang sama dihadapan hukum,maka ordinary court dianggap cukup untuk mengadili semua perkara termasuk perbuatan melanggar hukum oleh Pemerintah.
