تعود فكرة انشاء مؤسسة تمثيلية شعبية في إطار جامعة الدول العربية الى منتصف خمسينيات القرن الماضي ، حيث تقدمت أمانة الجامعة في عام 1955 بمقترحات لتعديل ميثاقها ، ومن هذه المقترحات اضافة هيئة جديدة في شكل جمعية شعبية ، ولم تتم الاستجابة لهذا المقترح آنذاك ، غير أن فكرة إنشاء برلمان عربي ظلت مطروحة على بساط البحث والتداول ، ولم تغب عن مبادرات إصلاح منظومة جامعة الدول العربية ، وكانت محل اهتمام كبير من قبل الاتحاد البرلماني العربي ، وتلاقت توجهاته مع الجامعة العربية ، وتعاوناً معاً على وضع القواعد المشتركة لهذا الاقتراح بإنشاء برلمان عربي ، وكان ذلك أساساً للقرارات التي اتخذتها القمم العربية فيما بعد بشأن تأسيس البرلمان العربي الذي أنشىء بمقتضى قرار مجلس جامعة الدول العربية على مستوى القمة رقم (292) الصادر عن الدورة العادية السابعة عشر المنعقدة بمدينة الجزائر ، بالجمهورية الجزائرية ، وذلك بتاريخ 23 مارس 2005 وفي هذه القمة أدخلت عدة تعديلات على ميثاق جامعة الدول العربية ، جاء في صدارتها استحداث المادة التاسعة عشر التي أضيفت للميثاق بموجب قرار هذه القمة رقم (290) ، ونصها " ينشأ في اطار الجامعة العربية برلمان عربي ، ويحدد نظامه الأساسي ، تشكيله ومهامه واختصاصاته " .
وفي هذه القمة أيضاً اعتمد النظام الأساسي للبرلمان العربي الذي قضى في مادته (1) بأن " ينشأ برلمان عربي لمدة خمس سنوات يجوز تمديدها لعامين كحد أقصى ، تبدأ من تاريخ أول انعقاد له وذلك كمرحلة انتقالية نحو قيام برلمان عربي دائم " وقد بدأ البرلمان العربي الانتقالي أعماله بالفعل بتاريخ 26 و27 ديسمبر 2005 م .
وفي 28 مارس 2010 م ، أصدر مجلس جامعة الدول العربية على مستوى القمة قراره رقم 501 الصادر عن الدورة العادية الثانية والعشرين المنعقدة بمدينة سرت ، بالجماهيرية العربية الليبية ، الذي قضى بالتمديد للبرلمان العربي الانتقالي لمدة عامين لاستكمال الأطر القانونية والنظام الأساسي للبرلمان الدائم .
وفي 29 مارس 2012 م ، أصدر مجلس جامعة الدول العربية على مستوى القمة القرار رقم: 559 الصادر عن الدورة العادية الثالثة والعشرين المنعقدة بمدينة بغداد حاضرة جمهورية العراق ، الذي اعتمد النظام الأساسي للبرلمان العربي ليكون فضاءً لممارسة مبادىء الشورى والديمقراطية والحرية وحقوق الانسان ويكون أداة للحوار والقرار وقوة دفع شعبية لمنظومة العمل العربي وشريكاً فاعلاً في رسم السياسة العربية المشتركة خدمة للمصالح العليا للأمة العربية وتأكيداً لمبدأ توسيع المشاركة السياسية كأساس للتطور الديمقراطي في البلدان العربية لتوثيق الروابط بين الشعوب العربية ".
وهكذا انتقل البرلمان العربي من مرحلة البرلمان الانتقالي الى المؤسسة البرلمانية الدائمة ، وافتتح أعمال دور انعقاده العادي الأول بتاريخ 12 ديسمبر 2012 م ، واستهله بانتخاب رئيسه ونوابه الأربعة، وتشكيل لجانه الدائمة الأربعة وانتخاب رؤسائها ومقرريها، وأمينه العام واثنين من الأمناء العامين المساعدين؛ وفور استكمال تشكيل أجهزته البرلمانية الرئيسية، شرع البرلمان في وضع نظامه الداخلي ونظامه المالي وغيرهما من الأنظمة الادارية والمالية للبرلمان .