Родился в Москве. Учился при Оружейной палате. В Санкт-Петербурге с 1709 г.; обучался итальянскому языку при губернской канцелярии.

С 1710 г. по приказу Петра I назначен помощником и учеником Д. Трезини. С 1719 г. руководил застройкой Москвы в связи с отменой запрещения строить каменные сооружения. В 1720 г. переведен из учеников в гезели.

В 1720-1722 гг. работал в Ревеле помощником Н. Микетти на строительстве Екатериненталя (Кадриорг). В 1723 г. ездил в командировку в Стокгольм. С 1723 г. работал в Санкт-Петербурге по заказам двора.

В 1724 г. получил звание архитектора.

После казни П. Еропкина в 1740 г. был прикомандирован к «Комиссии о Санкт-Петербургском строении» для редактирования и окончания трактата «Должность архитектурной экспедиции», в котором им, видимо, написаны главы: «Об архитектуре и архитекторах», «Что делать при строениях», «О должностях разных художеств мастеров, обращающихся при строениях», «Об Академии архитектурной».

С 1741 г. исполнял обязанности придворного архитектора Елизаветы Петровны. Первый русский архитектор Петербурга, воплотивший наряду с Трезини основные архитектурные замыслы Петра I. Работал в Санкт-Петербурге, Царском Селе и Москве. В 1742 г. получил чин полковника. Имел архитектурную «команду».

Из работ Земцов сохранилась петербургская церковь Св. Симеона и Анны (частично перестроена).