Судьба рассказчика схожа с судьбой самого Александра Исаевича Солженицына — он тоже фронтовик. И тоже возвращение его с фронта задержалось «годиков на десять». То есть пришлось отсидеть ни за что — как полстраны, если не больше, сидело тогда в лагерях.
Герой мечтает работать учителем в сельской глубинке — подальше от цивилизации. Он отбыл ссылку «в пыльной горячей пустыне» — и теперь его неудержимо тянет в среднюю полосу любимой России.
В 1956 году Игнатьич был реабилитирован и летом сошел с поезда на сто восемьдесят четвертом километре от Москвы.
Хотелось ему сначала жить в деревне Высокое поле, да только там с хлебом были перебои. Неплохо с питанием в другом поселке — но герою претит его ужасное советское название «Торфопродукт» . Впрочем, не одни же торфяники кругом... Учитель поселяется в селе Тальново, где преподает математику в школе. На квартиру (вернее, в избу) его берет к себе Матрена Васильевна Григорьева. Живут они в одной комнате, но старуха (ей шестьдесят лет) так тиха и услужлива, что никаких конфликтов не возникает, разве что герой по лагерной привычке разволновался, что женщина как-то по ошибке надела его телогрейку. Да еще репродуктор очень раздражает Игнатьича — он вообще не выносит шума, а особенно бодренького радио.
Изба у Матрены старая. Лучшую ее часть — у окна — занимают табуретки и лавки с ее любимыми фикусами и другими растениями. Это показывает доброту Матрены, ее любовь ко всему живому. Она человек совершенно бескорыстный — никогда «за обзаводом не гналась», добра себе не копила, чужим людям помогала. Из всего добра у Матрены — только хроменькая кошечка, подобранная из жалости, и грязно-белая коза с кривыми рогами. Ну, еще мыши и тараканы...
Постепенно Матрена рассказывает жильцу о своей жизни. Замуж она вышла рано, потому как мать умерла и надо было как-то устраивать свою жизнь. Нравился ей один молодой человек — Фаддей. Да ушел он на фронт (это еще до революции было, в Первую мировую) и пропал без вести. Три года ждала его — «ни весточки, ни косточки». Получила предложение от младшего брата Фаддея — Ефима. Согласилась, обвенчались. А через небольшое время вернулся Фаддей из венгерского плена. Сильно любил он Матрену — чуть от ревности не порубил топором брата и бывшую невесту. Но ничего, утряслось.
Фаддей со временем тоже женился, жену себе взял тоже Матрену, не иначе — в память о первой любви. «Вторая Матрена» родила Фаддею шестерых деток, все живы. А вот Матрена, хоть и рожала детей, да они у нее «не стояли» — не доживали до трех месяцев. В деревне решили, что она «порченая». Тогда Матрена взяла на воспитание дочку Фаддея Киру и воспитывала ее долго — пока та не вышла замуж и не переехала в соседнее село к мужу.
То, что у Матрены нет добра, не говорит о ее лености — встает каждый день в четыре-пять утра, дел полно. Она всегда готова помочь соседке копать картошку или побежать по зову жены председателя помочь в колхозных делах. Денег она ни с кого не берет — отчего и считают ее глупой.
Пенсии Матрена не получала, хотя по возрасту и по болезни могла бы получать. Полжизни своей проработала в колхозе за «палочки» трудодней. И все «в мужицкую работу» мешалась: даже, как некрасовская героиня, остановила коня на скаку, а тот чуть не сшиб ее в прорубь!
Бескорыстие Матрены столь велико, а любовь к ближним так сильна, что она решает еще при жизни отдать половину своей избы и имущества приемной дочери Кире. Фаддей поддерживает это ее решение: и загружает части дома и скарба на сани. Вместе с сыновьями перетаскивает он добро своей бывшей любимой через железнодорожные пути. Матрена помогала им и погибла, замешкавшись у саней.
Односельчане не могут оценить благородства Матрены. Над гробом стоит плач — но, скорее, по обязанности и из приличия. Вскоре начинается дележ имущества, в котором принимают участие и жадные сестры покойной, и ее лучшая подруга Маша. А Фаддей, в общем-то невольный виновник смерти своей бывшей любимой, даже на поминки не явился.
И только учитель, Матренин постоялец, отчетливо понимает, что Матрена и есть тот праведник, без которого «не стоит село» .
«Не стоит село без праведника» — так первоначально должен был называться рассказ «Матренин двор»