1957 yıllarında Baçspor Kulübünün yöneticileri İzmit Belediyesine müracaat ederek, şehrin doğu kesiminde bulunan gençlerin spor yapmalarına cevap verecek bir arsanın verilmesini isterler. Belediye başkanı Osman Gencal konuya yakın ilgi gösterir. Bu yakın ilginin temelinde Gencal'ın eski bir sporcu olması aynı zamanda Baçsporun üyesi olması rol oynar. Sonuçta Belediye Eski Teyyare Meydanı'nda 28 bin dönümlük bir araziyi 1 lira gibi sembolik bir ücretle Baçspor'a verir. Bu arsanın satılmasından kazanılan 283.000 TL ile Baç semtinde bir arsa satın alınır ve hemen inşaata başlanarak bina bitirilir. Güzel bir tesise kavuşan Baçspor yöneticileri, ilk kez, 1964 yılında profesyonel bir takım kurmayı ve 2. Lig'de yer almayı düşünürler ve bu yönde çalışmalara başlarlar. Bu yıllarda yasal mevzuat 2. Ligde yer alacak kulüplerin en az üç takımın birleşmesiyle ortaya cıkacak bir kulüp ve ve yeterli tesisler olması koşullarını arıyordu. 1966 yılında Baçspor, İzmit Gençlik ve Doğanspor takımları birleşerek Kocaelispor'u kurarlar. Üç kulüp yöneticisi tüm konularda anlaşarak yeşil siyah renkleri benimseyerek, ortak kongrelerini yapar ve yönetim kurulunu seçerler.
 
Kocaelispor futbol takımı 1979-1980 ve 1991-1992 yıllarında Türkiye 2. Ligi şampiyonu oldu. Türkiye 1. Ligi'ndeki en büyük başarısı ise ilk yarısını lider tamamladığı 1992-1993 sezonunda aldıgı 4.lüktür. Aynı sezon Türkiye'yi UEFA Kupası'nda temsil etti. 1995-1996 sezonunda ise Türkiye 1. Ligi'ni 5. bitirerek Türkiye'yi aynı yıl InterToto'da temsil etti. 1996-97 ve 2001-2002 sezonlarında Federasyon Kupası'nı alarak tarihinin en büyük başarılarını elde etti. 1997-98 sezonunda Turkiye'yi Avrupa Kupa Galipleri'nde, 1998-99 ve 1999-2000 sezonlarında ise InterToto Kupası'nda temsil etti