قصة التأسيس:
يعود تأسيس النادي إلى عام 1926م حين اجتمع عدد من الشبان في مدينة جدة ليناقشوا فكرة تشكيل فريق يجمعهم، وضم الاجتماع حينها كل من : عبد الصمد نجيب ، وعثمان باناجة ، وعبد العزيز جميل ، وعبد اللطيف جميل ،وإسماعيل زهران ، وحمزة فتيحي ، وعلي يماني ، وأحمد أبو طالب .
وبحث الاجتماع مسألة تأسيس ناد جديد واختيار اسمه ورئيسه، وكان التأسيس الرسمي للنادي في عام 1927م ليكون بذلك أول ناد يتأسس في منطقة الحجاز العربي، وبعدها تم البحث عن اسم للنادي وطرحت أسماء عديدة لكن الرأي الأخير استقر على اسم ( الاتحاد ) بعد ان اقترحه عبد العزيز جميل والذي قال : " ما دمنا مجتمعين هنا ومتحدين .. إذا الاتحاد " ولقي هذا الاسم قبولاً من الجميع .
بعدها أشار إسماعيل زهران لاعب الفريق السابق إلى إمكانية اختيار علي سلطان رئيساً للنادي ، ولم يمانع الاتحاديون وعرضوا على "سلطان" الرئاسة فرحب بذلك ، وأصبح بذلك أول رئيس رسمي للنادي .
أنجا زات العميد:
أحرز النادي لقب الدوري السعودي سبع مرات أعوام 1982, 1997, 1999, 2000, 2001, 2003, 2007، كما فاز ببطولة كأس الملك ست مرات أعوام 1958 و 1959 و 1960 و 1963 و 1967 و 1988، وكأس ولي العهد ست مرات أعوام 1958 و 1959 و 1991 و 1997 و 2001 و 2004.
أما على الصعيد العربي والخليجي ففاز بكأس الأندية الخليجية مرة واحدة عام 1999، ودوري أبطال العرب مرة واحدة عام 2005.
وآسيوياً فاز بلقب دوري أبطال آسيا مرتين عامي 2005 و 2006، و كأس أندية آسيا أبطال الكأس مرة واحدة عام 1999.