Należący do dominikanów kościół parafialny w Wysokim Dworze zamknięto po powstaniu 1832 r., a nabożeństwa odprawiano w niewielkiej cmentarnej kaplicy. Również ona została później przekazana prawosławnym, a w 1881 r. spłonęła. Na początku XX wieku mieszkańcy Wielkiego Dworu zdecydowali się odtworzyć swoją parafię i zbudować kościół. Właściciel dworu Bronislovas Malevskis przeznaczył działkę na jego budowę, a pojekt drewnianego kościoła, sporządzony przez architekta Antanasa Filipovičiusa-Dubovikasa, został potwierdzony w 1907 r. Na początku wzniesiono tymczasową kaplicę i przywrócono parafię kościoła. Nowo założona parafia była dosyć spolonizowana, więc nabożeństwa odbywały się po polsku. W latach 1910–1913 trwała budowa obecnego kościoła. Pierwsza wojna światowa, która rozpoczęła się wkrótce po tym, przyniosła wielkie straty dla nowo wybudowanego kościoła: rezydujące tu wojsko rosyjskie wywiozło trzy kościelne dzwony. Kościół ucierpiał również w czasie drugiej wojny światowej: w dniu 24 czerwca 1941 r. żołnierze nazistowskich Niemiec zniszczyli dach kościoła przy ostrzale Wysokiego Dworu.
Budynek kościoła jest w stylu historyzmu i nosi cechy neogotyku. Ma plan symetryczny, dwie zgrabne wieże po obu stronach głównej fasady i dwie dwupiętrowe zakrystie. Dwupoziomowe wieże są zakończone 4 małymi symetrycznymi frontonami z motywem słońca i ostrym czterospadowym dachem z krzyżem na okrągłym postumencie. Ten sam motyw słońca powtarza się na pozostałach frontonach budynku. Słoneczny motyw na frontonie głównej fasady jeszcze bardziej uwydatniono za pomocą wkomponowanego w środek okrągłego świetlika z ozdobami w postaci segmentów. Otwory do okien i w wieżach mają kształt arek i są upiększone nadokiennymi gzymsami.
Wnętrze dzielą trzy nawy. W kościele znajdują się cztery ołtarze. Wielki ołtarz zdobi obraz Przemienienia Pańskiego namalowany przez zawodowego malarza Stanislovasa Gobiatę. Ten sam autor zastosował analogiczną kompozycję do ozdobienia ołtarzyka na procesję. Trzy pozostałe mniejsze ołtarze w stylu historyzmu przeniesiono z dawnego dominikańskiego kościoła św. Dominika.
Wnętrze kościoła jest bogato zdobione malowanymi obrazami. W ścianę znajdującą się w prawym skrzydle transeptu wkomponowano obraz św. Franciszka z Asyżu, który został namalowany w drugiej połowie XIX wieku przez kowieńskiego malarza M. Bučinskasa. Ten sam malarz namalował też stacje drogi krzyżowej. Obrazy św. Jerzego i św. Stanisławawa na bocznych ścianach wyszły spod pędzla Juozapasa Balzukevičiusa w 1913 r. W kościele i zakrystii są przechowywane dwa obrazy znanego litewskiego malarza Vladasa Didžiokasa.
Źródło: www.sakralilietuva.lt
