O inscripție georgiană din secolul al XIII-lea sugerează că aici exista o mănăstirea în acele timpuri. În cronicile istorice, stânca Katskhi este menționată mai întâi în lucrarea „Descrierea Geografică a Regatului Georgia” a prințului Vakhushti, cercetător georgian din secolul al XVIII-lea.

Coloana a rămas necercetată de oamenii de știință până în 1944, iar apoi a fost studiată mai sistematic între 1999-2009. Studiile au dovedit vechimea vieții monahale, aceasta datând din secolele IX-X.

Complexul Stâlpului Katskhi este alcătuit din biserica dedicată Sfântului Maxim Mărturisitorul, o criptă, trei chilii pustnicești şi o pivniță. La baza stâncii se află biserica nouă a Sfântului Simeon Stâlpnicul, ruinele unui zid vechi și clopotnița. Tot la baza coloanei se află o cruce în relief, care seamănă cu alte desene medievale găsite și în alte părți ale Georgiei, în special la Bolnisi.

Biserica Sfântului Maxim Mărturisitorul este situată pe vârful stâncii în partea de sud-est. Este o biserică de mici dimensiuni, ridicată pe ruinele bisericii medievale de piatră. Biserica a fost restaurată între anii 2005-2009, cu sprijinul Agenţiei Naţionale pentru Conservarea Moştenirii Culturale a Georgiei.

Activitatea monahală pe stâncă a început să reînvie în anul 1995, odată cu sosirea aici a monahului Maxim Qavtaradze, născut chiar în apropiere, în Chiatura.