FK Kozara je osnovana 1945. godine.

Prvi fudbalski klub u Gradišci osnovan je mnogo godina ranije. Još za vrijeme Prvog svjetskog rata, 1916. godine, došlo je do formiranja kluba Berbir koji je dobio ime po istoimenoj staroj tvrđavi što se nekad uzdizala na obalama rijeke Save. Igralište se nalazilo u blizini današnjeg puta koji vodi prema Banjaluci, a od 1918. godine fudbal se sa Jame preselio na Meraju, preko puta banjalučkog mosta. Odmah po završetku rata osnovan je loptački klub Vihor koji je svoje igralište podigao na Urijama, tamo gdje se danas nalazi stadion Kozare. Zahvaljujući studentima koji su se školovali u Pragu, Beču, Pešti, Beogradu i drugim evropskim gradovima LK Vihor je već 1920. godine imao kompletnu sportsku opremu. U to vrijeme Vihor se najčešće sastajao sa Unitasom i Ilirijom iz Nove Gradiške kao i ekipom iz Nove Topole. Najbolji fudbaler Vihora bio je Rudi Siber koji je igrao na mjestu beka, a usput se bavio i atletikom. U to vrijeme postojala su u gradu razna srpska, muslimanska i hrvatska kulturno prosvjetna društva. U Vihoru su igrali Srbi, Muslimani, Hrvati . . . Igrali su mladi koji su voljeli i znali fudbal. LK Vihor se ugasio 1924. godine a umjesto njega je formiran loptački športski klub Sava, koji postaje član tadašnjeg Zagrebačkog loptačkog podsaveza. Time bi jun 1924. godine trebalo uzeti kao vrijeme kada je najzvaničnije u Gradišci formiran fudbalski klub.

LŠK Sava je 23. avgusta 1924. postala i redovan član Jugoslovenskog nogometnog saveza (JNS). LŠK Sava je uključena u redovno takmičenje za prvenstvo Bosanske krajine u sezoni 1924/25. pod okriljem Zagrebačkog loptačkog podsaveza.
Rivali gradiškoj ekipi bili su Balkan i Krajišnik iz B.Luke, Sloboda iz Novog Grada, Meteor iz Bos. Krupe, Građanski i Slavija iz Prijedora, Unitas iz Nove Gradiške, Borba iz Koz. Dubice, Konkordija iz Nove Topole i Sloga iz Gradiške, klub koji je veoma kratko egzistirao. Avgusta 1925. LŠK Sava mijenja ime u LŠK Karađorđe. Pod ovim imenom klub nastupa do ljeta 1931. kada se vraća staro ime Sava.

Sava će se u narednom periodu takmičit u novoosnovanom Banjalučkom podsavezu čiji su članovi i Građanski i Željezničar iz Dervente, Balkan, Krajišnik, Jug i Borac iz B. Luke, Sloboda iz Novog Grada, Građanski i Slavija iz Prijedora, Meteor iz Bos. Krupe i Knežepoljac iz K. Dubice.
U sezoni 1933/34. Sava osvaja četvrto mjesto u ligi Banjalučkog podsaveza. Prvenstvo za sezonu 1936/37. igrano je po grupama a Sava je bila pobjednik četvrte grupe ispred Bratstva iz K.Dubice i Taska iz Nove Topole. U polufinalu gradiški savez je izgubio od banjalučkog Borca.

Godine 1938. u Gradišci je osnovan i nogometni klub Bosna. Dvije godine kasnije počeli su pregovori o fuziji Bosne i Save zbog koncentracije kvaliteta. U decembru 1940. pregovori su uspješno privedeni kraju a novi klub je dobio ime
SK Radnički. Radnički je, na žalost, kratko egzistirao. Već 6. aprila 1941. godine Njemačka je napala Jugoslaviju bez objave rata, a 15 aprila dijelovi 183. Njemačke divizije prošli su kroz Gradišku i zauzeli Banja Luku . . .

Kraj patnji i stradanju naroda na području Gradiške opštine došao je 24. aprila 1945. godine. Tog dana su jedinice NOV Jugoslavije oslobodile ovaj napaćeni gradić na obali Save. Odmah po oslobođenju počeo se u Gradišku vraćati normalan život u svim njegovim sferama. Ni sport nije bio izuzetak. Već početkom juna pokrenuta je inicijativa za formiranje fudbalskog kluba.
Na prijedlog člana inicijativnog odbora Jovanke Karapetrović usvojeno je ime novog kluba koji će se zvati Kozara.
Polovinom avgusta 1945. FK Kozara je odigrala svoju prvu utakmicu protiv tima inžinjerskog  bataljona. Kozara je slavila rezultatom 4:0 a golove su postigli Pjatnicki (2), Fuks i Prčić. Od jeseni 1946. godine Kozara se takmiči u ligi Banjalučkog okruga. U sezoni 1952/52. Kozara se takmiči u Banjalučkoj podsaveznoj ligi gdje u konkurenciji osam timova zauzima šesto mjesto.

Već iduće sezone Kozara osvaja mjesto u podsaveznoj ligi i ostvaruje plasman u Republičku ligu BiH. Kozara je na kraju prvenstva zauzela sedmo mjesto ali je zbog reorganizacije takmičenja u sezonu 1955/56. morala ući kao član podsavezne lige. Ekipa iz grada na Savi će sve do 1970. godine sa promjenljivim uspjehom igrati u raznim Podsaveznim, Zonskim, Međuzonski, Međupodsaveznim i Međuopštinskim ligama. Konačno, u sezoni 1970/71. Kozara osvaja prvo mjesto u Krajiškoj Zonskoj ligi i ostvaruje svoj najveći uspjeh  – plasman u drugu saveznu ligu SFRJ! U sezoni 1971/72. gradiški drugoligaš zauzima deseto mjesto, da bi naredne godine prigrabio osmu poziciju. Sezona 1973/74. ostaće zlatnim slovima upisana u istoriji Kozare. Gradiški drugoligaš je prvenstvo okončao na trećem mjestu iza Rijeke i Osijeka. Taj istorijski uspjeh, predvođeni trenerom Ilijom Miljušem ostvarili su sljedeći fudbaleri: Glumičić, Crnec, Hadžiselimović, B. Maletić, Hadžić, Zeničanin, Subotić, Čolić, Smajić, Timarac, Vejzović, Ćatić, Crnojevac, Zec, Bradarić, Berić i Čorbegović.

Na žalost, zbog raznih trzavica u Klubu Kozara već naredne sezone ispada iz Druge savezne lige. Povratak među drugoligaše dogodio se 1981. godine kada je osvojeno prvo mjesto u Republičkoj ligi BiH. U sezoni 1981/82. Kozara zauzima dvanaesto mjesto, a već iduće godine Gradiški drugoligaš je poslednji na tabeli što mu je donijelo selidbu u niži rang takmičenja. U sezoni 1987/88 Kozara ne uspijeva da izbori plasman u novokomponovanu Međurepubličku ligu – grupa Zapad i nakon 18 godina igranja u Drugoj saveznoj i Republičkoj ligi BiH, vratila se na početak. Preselila se u novoformiranu Republičku ligu – grupa Zapad koja se nekad zvala Krajiška Zonska liga. Naredne dvije sezone Kozara će biti u samom vrhu ove lige ali, neće napraviti i onaj poslednji, odlučujući korak koji bi je odveo u Međurepubličku ligu.

A onda je došla sezona 1990/91. u kojoj se Kozara prošetala kroz Republičku ligu-Zapad. Gradiški sastav, u kome je stasavala buduća fudbalska zvijezda Vinko Marinović ponovo je bio izuzetno jak. Iz Španije se vratio iskusni Borče Sredojević i Kozara je glasila za glavnog kandidata za osvajanje prvog mjesta u Međurepubličkoj ligi.
A onda je izbio rat . .

Od osnivanja FS RS, Kozara učestvuje u svim njegovim akcijama. Ratne 1994. godine, 25. juna na gradskom stadionu u B.Luci gradiški sastav predvođen Borčetom Sredojevićem osvaja prvi Kup Republike Srpske. U finalu je pobjeđena Sloga iz Doboja nakon boljeg izvođenja jedanaesterca 7:6. Regularni dio završio je rezultatom 0:0. Kozara je još dva puta osvojila Kup RS. Sloboda iz Novog Grada pobjeđena je 1:0 u finalu koje je igrano 11. juna  2000. godine.
Godinu dana kasnije, 9. juna 2001. osvojen je i treći Kup RS. Savladan je Boksit sa 3:0.
U oba ova finala Kozaru je sa klupe predvodio trener Slavko Krstić. I 2002. Kozara je stigla do finala Kupa ali je izgubila od Leotara 1:2.

Od 1996. godine Kozara je član Prve lige Republike Srpske. Usezoni 2001/02 gradiški prvoligaš osvaja drugo mjesto na prvenstvenoj tabeli i zajedno sa Leotarom, Borcem (BL), Glasincem, Mladosti (Gacko) i Rudarom (Ugljevik) ostvaruje pravo učešća u prvoj zajedničkoj ligi BiH.

Na žalost, već nakon prve sezone Kozara je ispala iz Premijer lige BiH

Narednih sezona, FK Kozara se takmiči u I ligi Republike Srpske, da bi osvajanjem šampionske titule u I ligi RS u maestralno odigranoj sezoni 2010/11 (18 pobjeda, 4 neriješena rezultata i 4 poraza uz samo 12 primljenih golova, te rekord golmana Dalibora Kozića) to i ostvarila i ponovo postala premijerligaš. Nažalost, i ovaj put se u elitnom BiH takmičenju zadržala samo godinu dana i od tada  do danas se takmiči u I ligi Republike Srpske.