تأسس البنك الاهلي اليمني في عدن عام 1969م بموجب القانون رقم (37) للعام 1969م كبنك مملوك للحكومة واول مصرف حكومي يتم تأسيسه بعد الاستقلال من الاستعمار البريطاني في جنوب اليمن والذي كان يسمى (جمهورية اليمن الشعبية الديموقراطية) خلفا للبنوك الاجنبية المتواجدة انذاك, مارس البنك ادوار هامة تمثلت في تنظيم العملية المالية والمصرفية وتمويل المشاريع العملاقة والمتوسطة والصغيرة في مختلف المجالات الزراعية-الصناعية- السمكية- السكنية- النقل- الاتصالات- التجارية وغيرها من المجالات, وبعد تحقيق الوحدة اليمنية المباركة في 22 مايو 1990م وتحديدا في العام 1991م تم تعديل نظام البنك ليمارس اعماله بموجب قانون الهيئات والمؤسسات والشركات العامة وذلك وفقا للقانون رقم (35) للعام 1991م, وفي العام 2013 تم تنظيم البنك من جديد بموجب قرار مجلس الوزراء رقم (405) لسنة 2013 والذي صدر بموجبة النظام الاساسي للبنك الاهلي اليمني دون اختلاف صفته القانونية كبنك حكومي وتحت اشراف وزارة المالية, ومنذ تاسيس البنك وحتى الان يمارس البنك نشاطه المصرفي كمؤسسة مالية ذات استقلالية تامة تضمن له اداء الادوار المناطة به في تقديم الخدمات المصرفية والاستثمارية والوساطة المالية للافراد والشركات بكافة قطاعاتها وبموجب احكام وقوانين البنك المركزي والسلطات ذات العلاقة. كما كان ولايزال للبنك ادوار هامة اقتصاديا وتنمويا لمدة نصف قرن ليصبح من اكبر البنوك التجارية العاملة في اليمن والتي لها السبق في تأسيس قاعدة العمل المصرفي في اليمن.

يقدم البنك خدماته عبر شبكة من الفروع المنتشرة في الجمهورية اليمنية والتي تصل الى 28 فرع.

وفي مواكبة لتطلعات واحتياجات العملاء في السوق المحلي قام البنك الاهلي اليمني في العام 2011م بتاسيس فرع خاص بالتعاملات الاسلامية في صنعاء ليصبح بذلك من طلائع البنوك المحلية التي تقدم خدماتها المصرفية بشقيها التجاري والاسلامي.