Iš Šventliepės kelias veda į Bezlavkus link XIV a. pabaigos kryžiuočių pilies. XV a. pradžioje kryžiuočiai paskyrė ją Lenkijos karaliaus Vladislovo Jogailos brolio Švitrigailos, kuris su ordino pagalba kovojo už valdžią, buveine. 1513 m. pilis buvo paversta bažnyčia (pirma katalikų, paskui Augsburgo evangelikų). Šiuo metu pastatas yra katalikų šventykla. Bažnyčios interjerą galima bet kada pamatyti, paskambinus ant durų nurodytu telefono numeriu. Šlaite yra senosios kapinės, kur vykdomi atnaujinimo ir remonto darbai ir į kurias jau sugrįžo daug restauruotų kryžių.
Su pilimi siejama fantastinė Šventojo Gralio legenda. Garsioji Jėzaus Kristaus taurė XI a. Anglijoje priklausė karaliui Haroldui Godvinsonui, žuvusiam mūšyje su normanais Hastingse. Jo sūnūs, bijodami persekiojimo, pabėgo iš šalies ir apsigyveno Lietuvoje. Tokiu būdu po 300 metų Šv. Gralis atiteko Lietuvos kunigaikščiui Švitrigailai, kuris su savimi atvyko į Bezlavkus 1402 m. Kronikininkai patvirtina, kad jis atsigabeno dvi taures, vadinamas graikiška ir angliška. Matyt, jis paliko jas pilyje, kai 1520 m. prie jos priartėjo totoriai, Šv. Gralis buvo užmūrytas kažkur pastate, jau paverstame bažnyčia.
