શહેરના જેલ ગ્રાઉન્ડ ખાતે આવેલ સરકારી વસાહતના પટાંગણમાં બિરાજમાન કંપેશ્વર મહાદેવનો જગ જુનો ઈતિહાસ પ્રસિધ્ધ છે. આ સ્થાન સાથે ભાવનગર સ્ટેટ પરિવારને નિકટતમ સંબંધ હોવાનું પણ જાણવા મળ્યું છે.
ભાવનગર શહેર મધ્યે આવેલ સેંકડો દુર્લભ વિરાસતો વિશ્વભરમાં પ્રખ્યાત છે. આ વિરાસતો પૈકી કેટલાક સ્થાપત્યો તથા દેવ મંદિરો ભાવનગર શહેરની સ્થાપના પૂર્વેથી મોજુદ હોવાના પુરાવાઓ ઈતિહાસના પાને કંડારેલ છે. આવા દેવ મંદિરો પૈકી એક એવા ભાવનગર જિલ્લા જેલ પાછળ આવેલ સરકારી કર્મચારીઓની વસાહતમાં પટાંગણમાં સાક્ષાત બિરાજમાન કંપેશ્વર મહાદેવનો ઈતિહાસ ઝાઝરમાન છે. લોકવાયકા અનુસાર આ શિવાલયની સ્થાપના ભાવેણાની સ્થાપના પૂર્વે થઈ હોવાનું કહેવાય છે. આ કંપેશ્વર મહાદેવ સ્વયંભુ પ્રગટ થયા હોવાનું ઈતિહાસ કારો કહે છે. રાજવી શાસનકાળ દરમ્યાન અત્રે એક કુવો આવેલો છે. જે કુવામાંથી શિવલીંગ પ્રગટ થયું હતું. આ ઉપરાંત ગંગાજળીયા તળાવના ખોદકામ સમયે જમીનમાંથી નિકળેલ હનુમાનજીની મૂર્તિની સ્થાપના પણ રાજવી પરિવાર દ્વારા આ મંદિરમાં કરવામાં આવી છે.
આ શિવાલલયના ગર્ભ ગૃહમાં બે શિવલીંગ મોજુદ છે. સેંકડો શ્રધ્ધાળુઓના આસ્થાનું પ્રતિક એવા કંપેશ્વર મહાદેવમાં શિવભક્તો અખુટ અને અમીટ શ્રધ્ધા ધરાવે છે. આખો શ્રાવણ માસ પૂજારી પરિવાર તથા શિવભક્તો દ્વારા મહાપૂજા અને બિલ્વપત્ર ચડાવવામાં આવે છે. તદ્દઉપરાંત દરરોજ દિપમાળ અને સોમવારે શિવજીને ખાસ શણગાર રચવામાં આવે છે. સાતમ આઠમ તથા ભાદરવી અમાસના રોજ મહાઉત્સવની ઉજવણી કરવામાં આવે છે. મંદિર સમીપ વર્ષોથી વસવાટ કરતા મોરારીદાસ ખીમદાસ ગોંડલીયા તથા તેમના છ ભાઈઓના પરિવાર દ્વારા મંદિરમાં સેવા પૂજા કરવામાં આવે છે.
