Vznik kaple U Matky Boží známé také jako kostelík nanebevzetí Panny Marie se předpokládá v dobách okolo roku 1200, kdy v bezprostředním okolí stával zeměpanský dvorec a okolo kaple se rozkládala také středověká vesnice. Okolní osada utrpěla za husitských válek velké škody a následně zanikla.
Kaple je pravděpodobně starší než sám
hrad Veveří a její vznik lze klást někam kolem roku
1200. Běžně není veřejnost přístupná, je ale oblíbeným místem konání svateb a je zde každoročně sloužena mše svatá u příležitosti svátku Nanebevzetí Panny Marie 15. srpna.
Dalším důkazem svědčícím o stáří kaple je i to, že je zasvěcena Nanebevzetí Panny Marie – mariánský kult k nám přinesli sv. Cyril a Metoděj, první kostely u nás byly zasvěcovány Panně Marii. První písemná zmínka je ze 7.prosince 1240. V listině, jíž král Václav II. potvrzuje statky kláštera tišnovského, je zmíněn Jacobus de Eychhorn – Jakub z Veveří, který byl zřejmě farářem při této kapli, která kdysi bývala farním kostelem (kolem kaple prý stála vesnice, která zanikla za husitských válek).
Stavba je dvoulodní. Starší, hlavní loď je románská, vedlejší byla přistavěna v období gotiky. Kaple byla během staletí několikrát opravována, za Josefa II. se dokonce uvažovalo o jejím zbourání. V současné době má kaple jenom malou věžičku, na které jsou dva zvonky. Věž byla zbořena Švédy. Do kaple vedou dva vchody – od západu gotický, od jihu (do gotické vedlejší lodi) románský s pozoruhodným portálem. Starší románský portál se dostal do mladšího gotického zdiva zřejmě při některé přestavbě kaple. Na jeho tympanonu je rovnoramenný kříž po stranách se dvěma lvy. Střecha je kryta šindelem. Na severní straně apsidy zvenku ve výšce asi 3m je zazděn kámen, na něm postava podobná medvědu – asi značka kameníka. Na štítě od východu je monogram jména Marie, v něm je vytesán lidský obličej.
Jednou ze zajímavých epizod dějin kaple je působení švédského královského rodu Wasa, jehož čelný představitel, korunní princ Gustav, byl majitelem panství v letech 1830–1844. Ten se zasadil o vzorné vedení panství a dbal i na údržbu kaple. Bohužel musel využít místní hřbitov, protože zde byl pohřben nejprve krátce po svém narození v roce 1832 jeho syn, a 27. února 1837 byl ve výklenku kůrového schodiště pohřben sesazený švédský král Gustav IV. Adolf, který zemřel o tři týdny dříve ve Švýcarsku. V roce 1844 byly jejich ostatky převezeny do rodinné hrobky v Oldenburku a po rehabilitaci rodu do Stockholmu. Poněkud pikantní skutečností je, že příslušníci rodu Wasa byli všichni protestanti a jejich uložení na katolickém hřbitově vyvolávalo značné protesty.