К церкви Квемо Бетлеми, возведенной на склоне Клдисубани в Квемо Кала поднимается улица – лестница. В 1725 – 1727 гг. армяне, переселенные из Ирана, построили на этом месте женский монастырь Святого Стефана и возвели небольшую церковь. Вместо данного сооружения в 1868 году была построена церковь с куполом, которую обновили в 1910 году. С 1988 года собор принадлежит грузинской православной церкви.
На выложенной камнем кирпичной цитадели возведено сооружение типа «вписанного креста». Церковь построена из кирпича. Купол опирается на четыре свободно стоящие колонны. Выпуклость апсида представляет собой полукруг. Фасад украшен декоративными арками и разделен высокими прямоугольными углублениями. Форточки купола вписаны в арки. Над ними находятся прямоугольные углубления, вокруг купола кирпичом выложены круги.
Собор имеет входы с севера и запада. К северной двери поднимается широкая каменная лестница. Над аркой у входа выполнено художественное изображение нерукотворной иконы Христа Спасителя. С запада около собора стоит жилой дом, который опирается на мощные столбы перед входной дверью церкви.
