Snahy o výstavbu kostola v časti Kozy-Gaje sa začali začiatkom 90. rokov 20. storočia. V roku 1993 kňaz biskup Tadeusz Rakoczy posvätil pozemok pod výstavbu kostola. Projekt kostola bol hotový v roku 1996 a v nasledujúcom roku sa začali stavebné práce. Základný kameň pod výstavbu kostola bol položený v roku 2000. Nová farnosť bola zasvätená Zoslaniu Ducha Svätého. Patria k nej časti Kozy-Gaje a Kozy-Zagroda. Je to tretia farnosť vyčlenená v materskej farnosti sv. Šimona a Júdu v Kozách, hneď po Bujakowe a časti Małe Kozy.