Historia Olimpii Grudziądz ma swój początek 30 czerwca 1923 roku. Tego dnia na zebraniu w hotelu Kellas, podjęto uchwałę o założeniu Towarzystwa Sportowego „Olympia”. Początki funkcjonowania klubu to sekcja piłki nożnej oparta na byłych zawodnikach Klubu Sportowego „Powiwój”. W listopadzie tego samego roku, drużyna w towarzyskim meczu ograła Wartę Poznań 5:0.
W kolejnych latach nazwa klubu kilkukrotnie ulegała zmianie. Ostatecznie w 1957 roku, podjęto decyzję o funkcjonowaniu jako Grudziądzki Klub Sportowy „Olimpia”. W latach 90. XX wieku zespół dwukrotnie awansował na poziom III ligi, niestety obie przygody na tym poziomie rozgrywkowym trwały tylko rok.
W rozgrywkach III ligi po raz kolejny oglądaliśmy Biało-Zielonych w sezonie 2008/2009. Podopieczni trenera Marcina Kaczmarka, zakończyli rozgrywki z bilansem 25 zwycięstw, 4 remisów i tylko 1 porażką i pewnie awansowali do wyższej ligi. Kolejny historyczny sukces drużyna zanotowała w 2011 roku. Po zaciętej rywalizacji z bydgoskim Zawiszą nasza drużyna wygrała rozgrywki i awansowała na zaplecze Ekstraklasy.
Najlepszy wynik, w trakcie 7 lat występów na drugim poziomie rozgrywkowym w kraju, drużyna osiągnęła w sezonie 2014/2015 – 4. miejsce. W tym okresie, Biało-Zieloni zaliczyli także udane kampanie w Pucharze Polski. W kampanii 2013/2014 drużyna prowadzona przez Tomasza Asenskiego w pokonanym polu zostawiła Lecha Poznań, by odpaść dopiero w ćwierćfinale z Legią Warszawa – późniejszym triumfatorem rozgrywek o krajowy puchar.
Sezon 2017/2018 zakończył się spadkiem Olimpii do II ligi. Prowadzony przez trenera Mariusza Pawlaka zespół, opuścił ten szczebel rozgrywek już po roku i zajmując 2. miejsce, wrócił na zaplecze Ekstraklasy.
Niestety, sezon po powrocie do I ligi okazał się bardzo trudny i pomimo walki o utrzymanie do ostatniej kolejki rozgrywek, Olimpijczycy zanotowali kolejną degradację na niższy poziom. Podobnie było w sezonie 2020/2021, kiedy to nie udało się utrzymać zespołu w rozgrywkach II ligi.
Obecnie drużyna występuje w rozgrywkach 2 grupy III ligi, a zespół prowadzi trener Marcin Płuska.
