　奈良時代、738年行基菩薩が乙津島に着船され、ここを仏法縁由の地と定め、自ら十一面千手観音像を刻み、草庵に安置されました。
　813年弘法大師（空海上人）が嵯峨天皇の勅命を受け、当地で秘法を尽くし天に誓い地に伏し祈祷すること37日間行い、宝鏡を龍神に手向けますと忽ち滄海変して桑田と成りました。よってこの地を鏡島といい、寺を乙津寺と名付け七堂伽藍塔頭五ヶ寺鎮守等、多数が造営されました。大師は開山堂前に梅の杖を上下逆にして挿し「仏法この地に栄えば、この杖に枝葉も栄ゆべし」と仰せられました。すると不思議にも杖に枝葉が生じ花をつけましたので、梅寺とも呼ばれています。893年宇多天皇より下賜された「霊梅場」の額を楼門に掲示していました。その時の「下乗」の石標が現在もあります。
　古くは真言宗で鎌倉・室町のころは、京都御室御所（仁和寺）が、乙津寺住職を兼務され、老後は当寺に専任されました。関白太政大臣一条兼良公は「応仁の乱」を避けて幼年文学の友であった住職又妻子に会いに来て滞在され、妻子は当寺に残されました。よって兼良公の正室東御方の墓（宝篋印塔）があります。なお連歌師宗祇法師など著名人が参詣祈願しています。
　天文の大洪水と重なる政情不安で寺門が衰微した時、鏡島城主石河駿河守光清は伽藍を再建し、1545年京都妙心寺より弧岫（こしゅう）禅師を招いて禅密兼学の道場としました。二世蘭叔禅師は「酒茶論」を著した高僧であります。
　織田信長公・豊臣秀吉公・江戸時代には梅寺瀬踏開運地蔵尊霊験なりと徳川将軍家の信仰厚く、朱印状により寺の建物境内樹木が保護され、寺領55石を頂いております。又雪舟を含む多くの書画古文書を保持していました。
　1945年、第二次大戦中の岐阜空襲で堂塔の全てを失いましたが、国重要文化財と弘法大師像は奇跡的に難を免れました。
　今は国や十万信徒諸氏のご協力で
、法燈が受け継がれております。