Этот готический храм с высокой колокольней, красный снаружи и белоснежный внутри, считается самым первым костелом в Каунасе и носит имя великого литовского князя не случайно: именно Витаутас заложил фундамент церкви в благодарность за свое спасение в битве на реке Ворскле (оказывается и ему дали по попе где-то под Полтавой — замечательное местечко эта Полтава!) где вместе с русскими князьями он сражался с войском Золотой Орды. ( прим. в нынешней же литовской истории, упоминания о русских полках не замечено и Витаутас одержал победу единолично)
Вместе со своими городом костел Витаутаса Великого пережил все невзгоды и разрушения: он был наполеоновским складом обмундирования, православной церковью и даже немецким овощехранилищем. Но все плохое когда-нибудь заканчивается, и теперь прекрасный костел с восстановленными интерьерами и электронным органом, является уникальным памятником архитектуры и истории (здесь похоронен знаменитый политический деятель и писатель Литвы Юозас Вайжгантас), а также популярным местом венчания молодоженов.