В заросшем крапивой больничном дворе стоит небольшой флигель. Сторож Никита — старый отставной солдат, очень исполнительный и любящий порядок человек.
Кровати в комнатах привинчены к полу. В палате номер шесть находятся пять сумасшедших. Еврей Моисейка помешался, когда у него сгорела мастерская. Никого, кроме него, не пускают на улицу. Моисейка любит услужить. Все подаяние, что собирает на улице, отдает сторожу. Своей услужливостью он подражает Ивану Дмитриевичу Громову, который укрывает своих соседей, когда они спят, подает им воду. Но во время срывов Иван Дмитриевич кричит о человеческой подлости, о грешниках и насильниках.
Иван Дмитриевич — сын чиновника Громова, которого обвинили в краже и растрате казенных денег. Чиновник умер в тюремной больнице. Брат Ивана Сергей умер от чахотки. Часть заработанных учительствованием денег Иван отправляет матери. Переехав к матери, Иван недолго работает учителем в уездном училище.
После смерти матери Громов работает судебным приставом. Всех людей он делит на честных и подлецов, все время жалуется на скучную жизнь. Несмотря ни на что, в городе его любят. Встретив на улице арестантов, Громов начинает опасаться, что и его могут посадить в тюрьму. Эти мысли не дают ему спать ночью. Нет никакой причины опасаться ареста, но ему кажется, что его могут оклеветать, засудить по ошибке. Иван Дмитриевич избегает контактов с людьми, почти не выходит на улицу. На кладбище находят два трупа. Иван Дмитриевич начинает уверять всех своих знакомых, что считает убийц самыми подлыми людьми на свете. Опасения в душе Громова растут. Он прячется на два дня в погребе. Пришедшие печники кажутся ему полицейскими. Громов бросается наутек. Доктор, установив диагноз, отправляет Громова в лечебницу.
В палате живет потерявший способность мыслить и чувствовать мужик, который даже на побои Никиты не реагирует. Пятый больной — бывший сортировщик писем. Он считает, что его награждают почетными орденами. Больных начинает посещать доктор.
Доктор Андрей Ефимыч Рагин избрал карьеру медика по настоянию духовного отца. Своей внешностью доктор напоминает трактирщика. Добросовестность Рагин проявляет только в начале своей работы. Со временем он посещает больных все реже, считает, что лечить людей совершенно бесполезно, так как смертность в городе не уменьшается.
В больнице работает имеющий большую практику в городе фельдшер Сергей Сергеевич. Сам себя он очень уважает. Сергей Сергеевич — человек религиозный, по воскресеньям окуривает больных ладаном. Андрей Ефимыч несерьезно относится к своей работе, операций больше не проводит, хочет, чтобы больные от него поскорее отстали. Дома Андрей Ефимыч очень много читает. Рагин дружит с почтмейстером Михаилом Аверьянычем. Только его общество не тяготит доктора. Вместе они сокрушаются тем, что в городе не с кем общаться, жалеют о прошлой развитой жизни. В своих размышлениях Рагин приходит к мысли, что обманывает больных и вообще служит вредному делу.
После выделения дополнительных средств на медицинское обеспечение в город приезжает новый врач — Евгений Федорович Хоботов. Он хочет занять место Рагина.
Увидев, что Моисейка ходит без сапог, Андрей Ефимыч говорит Никите, чтобы тот выдал больному сапоги. У доктора завязывается разговор с Иваном Дмитриевичем. Громов сетует на то, что в городе очень много сумасшедших, а в больнице находятся только несколько. Больной и доктор обсуждают возможность побега и решают, что это бесполезно. Рагин видит в Громове интересную личность и начинает навещать его чаще.
Разговоры Андрея Ефимыча и Ивана Дмитриевича подслушивает Хоботов. Вместе с Сергеем Сергеевичем он решает, что Рагин тоже болен.
Отношение окружающих к Рагину меняется: его уговаривают бросить пить, почтмейстер советует ему уехать за границу.
Андрею Ефимычу предлагают подать в отставку. Доктор отправляется за границу с почтмейстером, но начинает его избегать. В Варшаве Михаил Аверьяныч проигрывает пятьсот рублей. Одалживает деньги у доктора. В родной город Рагин возвращается разоренным. Состояние Ивана Дмитриевича ухудшилось. Андрея Ефимыча навещают Хоботов и Сергей Сергеевич, хозяин старается поскорее выпроводить гостей. Почтмейстер все не возвращает деньги.
Однажды, не выдержав, Рагин с раздражением выгоняет Хоботова и почтмейстера. Раскаявшись, доктор отправляется просить прощения у почтмейстера. Михаил Аверьяныч настаивает на том, чтобы Андрей Ефимыч занялся своей болезнью всерьез. Хоботов приглашает Рагина в больницу.
Теперь Андрей Ефимыч — обитатель палаты номер шесть. Никита отбирает у него одежду и не пускает на улицу. Иван Дмитриевич смеется над ним. Рагин пал духом.
Наутро Андрей Ефимыч перестает реагировать на посетителей и докторов, не разговаривает, на вопросы не отвечает. От апоплексического удара вечером он умирает.