În epoca bizantină, pe la mijlocul secolului al V-lea, pe locul Scăldătorii oilor din Ierusalim a fost construită o bazilică cu trei naosuri închinată Maicii Domnului, întrucât, potrivit tradiţiei, aici s-ar fi aflat casa Sfinţilor Părinţi Ioachim şi Ana.
În secolul al V-lea, bizantinii au construit o biserică având lungimea de 45 de metri, cu trei naosuri - o capodoperă din punct de vedere arhitectural. Bazilica a fost construită înainte de anul 427, deoarece s-au găsit resturi de pardoseală având pe ele cruci; este bine cunoscut faptul că în anul 427 Împăratul Teodosie al II-lea a interzis să se mai facă cruci pe pardoseală, pentru ca acest semn sfânt să nu mai fie călcat în picioare.
Biserica e cunoscută în descrierile pelerinilor cu numele de Biserica Paraliticului, deoarece comemora minunea săvârşită de Domnul nostru Iisus Hristos.
Bazilica a fost închinată Maicii Domnului, căci Evanghelia apocrifă a lui Iacob (secolul al II-lea) situează aici casa părinţilor Maicii Domnului, Sfinţii Ioachim şi Ana, şi deci locul în care s-a născut Maica Domnului. O altă tradiţie ne spune că Sfinţii Ioachim şi Ana erau originari de la Seforis, un sat situat la șase kilometri depărtare de Nazaret.
La invazia perşilor din anul 614, biserica a fost distrusă. La sosirea lor, cruciaţii au construit două biserici pe locul fostei biserici bizantine: un paraclis pentru călugării catolici şi biserica Sfânta Ana.
La căderea Regatului Latin, Saladin a transformat biserica în şcoală de Coran. În secolul al XIX-lea, în urma războiului din Crimeea, a fost cedată de către sultanul Abdul Megid congregaţiei catolice a Părinţilor Albi, în grija cărora se află şi astăzi.
Biserica are trei naosuri. Din naosul din dreapta, o scară coboară către cripta în care cruciaţii au localizat locuinţa Sfinţilor Ioachim şi Ana.
Biserica Sfânta Ana a fost restaurată în mai multe rânduri, în special în urma războiului din 1967, când a fost grav avariată de bombardamente. Săpăturile arheologice din zilele noastre au scos la lumină multe elemente din biserica bizantina şi din cea a cruciaţilor.
