त्रेता युग में भगवान राम और रावण के बीच युद्ध हुआ, इस युद्ध को रामायण नाम के धर्म ग्रंथ में लिखा गया है। युद्ध जीतने के लिए रावण ने भगवान शिवजी की तपस्या की। शिवजी इसके बाद शिवलिंग का आकार लेकर प्रकट हुए। शिवजी ने रावण से लंका में शिवलिंग स्थापित करने को कहा। लेकिन स्थापित करने के लिए भगवान शिवजी ने रावण के सामने एक शर्त रखी। शर्त थी कि लंका ले जाते वक्त कहीं भी शिवलिंग को बीच में नहीं रखा जाएगा। रावण ने भगवान शिवजी की ये शर्त मान ली। रावण शिवलिंग लेकर लंका के लिए चल पड़े।
कुछ दूर चलने के बाद रावण को पेशाब लग गया। रावण को शिवजी की शर्त याद थी इसलिए उसने शिवलिंग को नीचे नहीं रखा। रावण को जंगल में एक गड़रिया दिखा। रावण ने शिवलिंग को गड़रिए को दे दिया। बताया जाता है कि जैसे ही रावण ने गड़रिए को शिवलिंग थमाया, शिवजी ने अपना वजन बढ़ा लिया, जिसके कारण गड़रिये को शिवलिंग को नीचे रखना पड़ा।
अब रावण को ये बात समझ में आ चुकी थी कि भगवान शिवजी लंका नहीं जाना चाहते। ऐसा करने से रावण युद्ध नहीं जीत सकेगा। रावण को गुस्सा आ गया और उसने अपने अंगूठे से शिवलिंग को नीचे दबा दिया। कहा जाता है कि ऐसा करने से गाय के कान जैसा निशान बन गया। इसके बाद रावण ने गड़रिये को मारने के लिए उसका पीछा किया। अपनी जान बचाने के लिए गड़रिया एक कुंए में गिर गया, जिससे उसकी मौत हो गई। आज भी इस जगह पर मेला लगता है।
वहीं इस जगह के बारे में एक दूसरी कथा भी है। वराह पुराण की एक कथा के अनुसार कई देवता भगवान विष्णु के नेतृत्व में भगवान शिवजी को खोजने पृथ्वी पर आए थे। भगवान शिवजी ने तीन सींगों वाले एक मृग का रूप धारण कर लिया। ब्रह्मा और इंद्र ने मृगरुपी शिव के दो सींग पकड़ लिए। सींग पकड़ते ही शिवजी अदृश्य हो गए। अदृश्य होते ही सींग लिंगरुप में बदल गए। इन तीन लिंगों को देवताओं ने गोकर्णनाथ, शुंगेश्वर( भागलपुर, बिहार) और तीसरे शिवलिंग को इंद्रलोक ले गए।
बताया जाता है कि जब रावण का इंद्र से युद्ध हुआ तो रावण ने इंद्रलोक से तीसरा सींग उठा लिया तो लंका ले जाने लगा। लेकिन भूल से गोकर्ण क्षेत्र में रख दिया। उसके बाद यह शिवलिंग वहीं स्थिर हो गया।