Учитель гимназии жил одной мыслью: повышение в должности. Он и сам не заметил, как постепенно эта навязчивая идея довела его до помешательства.
Ардальон Борисыч Передонов — учитель словесности в гимназии небольшого провинциального городка. Он человек образованный (кандидат университета), важный. Быть настороженным и сердитым — обычное состояние для Ардальона Борисыча, он всегда себе на уме: ну а как же доверять мерзким завистникам вокруг, которые только и ждут случая подставить его, испортить карьеру.
Передонов метит в инспектора, и небезосновательно: он уверяет всех знакомых, что сама княгиня Волчанская из Петербурга пообещала ему протекцию. Но есть одно обязательное условие: Передонов должен жениться на своей сожительнице (и троюродной сестре) Варваре Дмитриевне Малошиной — грубой, неряшливой, вульгарно раскрашенной женщине, — которая некогда служила у княгини портнихой. Кстати, от Варвары и узнал Ардальон Борисыч об обещании княгини. Эта женщина одержима идеей венчания с Передоновым, а он, в свою очередь, — получением должности.
Чтобы укрепить и ускорить решение Передонова жениться на ней, Варвара задумывает небольшую аферу: с помощью приятельницы Грушиной она изготавливает поддельное письмо, в котором от лица княгини уверяет Ардальона Борисыча, что место ему обеспечено, и чем скорее он женится на Варваре, тем скорее станет инспектором. Передонов, получив письмо, торжествует. Дело за малым: по его словам, венчаться недолго.
«Будущий инспектор» важничает, рассказывает о письме в домах своих знакомых, но становится ещё подозрительнее: он уверен, число завистников растёт, и они готовы на всё, лишь бы лишить его заветной мечты и занять его место. Передонов предпринимает меры предосторожности: он прячет сочинения Писарева, чтоб его не приняли за радикала или (ещё хуже) коммуниста, обходит всех крупных городских чиновников с целью предупредить о вражьей клевете, крупном заговоре против него.
Уже совсем войдя в роль инспектора, Передонов считает своей обязанностью лично посещать родителей своих воспитанников и докладывать им о плохой успеваемости и несносном поведении их отпрысков. Обычно Передонов обвиняет гимназистов не по делу, лишь с профилактической целью, и получает истинное удовольствие, если родители верят и при нём наказывают своих чад.
Тем временем Варвара остается неудовлетворённой из-за неизменившегося положения, она злится, ругается с прислугой, сплетничает с Грушиной. Однажды приятельница делится с ней интересной догадкой: Саша Пыльников, гимназист шестого класса, — это переодетая барышня. Якобы его тётке было выгоднее обучать дочь под видом своего племянника, а самого мальчика она оставила при себе. Варвара, разумеется, делится такой любопытной новостью с сожителем. Передонов, ни на секунду не усомнившись в ее словах, отправляется на квартиру, где проживал (а) гимназист (ка), однако визит оказался безуспешным. Тогда Передонов стал высмеивать Сашу в гимназии, а потом сообщил свои подозрения директору. Директор по фамилии Хрипач, конечно, в такие глупости не поверил, но всё же, когда был предоставлен случай, отправил Сашу на осмотр к врачу, после чего окончательно убедился, что гимназиста оклеветали, и успокоился.
Но в маленьком городке слухи расползаются со страшной быстротой, и вот уже любопытная озорница Людмила Рутилова, одна из четырёх сестриц Рутиловых (остальные — младшая Валерия, старшая Дарья и уже замужняя, остепенившаяся Лариса), идёт в дом к своей знакомой Коковкиной, у которой проживал гимназист Пыльников, дабы посмотреть на девушку, наряженную юношей. Людмила понимает, что ошиблась, но её интерес к Саше не пропадает. Она чистой любовью влюбляется в невинного, милого мальчика. Они видятся очень часто, каждый раз весело проводят время вдвоём и сильно сближаются. Скоро все в городе обсуждают порочную связь молоденького гимназиста и девицы, над Пыльниковым издеваются товарищи и учитель Передонов — главный зачинщик. Саше обидно за себя и за Людмилочку: в его глазах всё не так, как это представляют недоброжелатели.
Кажется, в целом городе нет никого, в чьем сознании живы ещё такие понятия, как доброта, честь, вежливость, терпимость. Каждое событие завязано на каком-то пороке или несуразности. Люди замечают только недостатки других, игнорируя свои собственные, обсуждают и осуждают друг друга. Самым ярким представителем этого прогнившего общества является Передонов. В этом герое воплощены все негативные личностные черты, которыми только может обладать человек: грубость, невежество, ложь, лицемерие, лень, зависть, развратность, подлость. Но главной бедой Передонова становится его мнительность, она доводит его до безумия.
Слишком увлечённый разыгрыванием из себя важной персоны, Передонов постоянно откладывает свадьбу. Варвара решается на второе поддельное письмо, продумывает всё до мелочей, даже подкупает почтальона, чтобы тот во избежание всяческих сомнений при Ардальоне Борисыче доставил письмо в конверте. Теперь Передонов уверен: инспекторское место в его руках.
Пришло время жениться на Варваре. После венчания самоуверенность Передонова растёт в геометрической прогрессии. Она передаётся многим его знакомым: люди ждут, что вот-вот придёт бумага, и Передонов получит новую должность. Правда, в поведении Ардальона Борисыча проявляется некоторая странность: он вырезает глаза карточным дамам, королям и валетам, которые подглядывают за ним, или просит парикмахера остричь своего кота, чтобы обезопасить себя от вредоносного электрического тока в его шерсти. Ни сам Передонов, ни его жена не придают особого значения этим странностям — лишь бы поскорее уехать на новое место! Но, разумеется, бумага не приходит, сумасшествие Передонова стремительно развивается.
Однажды Варвара, Грушина и одна их приятельница Преполовенская собираются, чтобы выпить. Так вышло, что Варвара сболтнула про поддельные письма при посторонней. Та пообещала хранить тайну и по секрету рассказала обо всём Вершиной — главной местной сплетнице. Весть об обмане Передонова разносится по всему городу. Но сам Ардальон Борисыч не замечает подшучиваний и намёков — настолько тверда его мысль о повышении. Он настолько странно себя ведёт, что директор гимназии временно отстраняет его от занятий и приглашает губернского врача для освидетельствования психического расстройства своего сотрудника. Ардальон Борисыч только рад отставке.
Актёры местного театра организуют маскарад, на который собираются почти все жители города. На наряды не скупятся — всем хочется победить в конкурсе на лучший маскарадный костюм. Кем только не наряжаются горожане в день торжества — и женщиной-колосом, и древним германцем, и дамой-медведем, и мужчиной-петухом. Грушина, которую любезно просят прикрыться, выступает в образе богини Дианы. Сестры Рутиловы рядятся цыганкой, испанкой и турчанкой — вся их фантазия ушла на создание костюма для Саши Пыльникова.
По итогам конкурса, победителями становятся древний германец и гейша. Публика не радуется — только завидует. Сначала все набрасываются на германца и срывают с него маску: выясняется, что это актёр Бенгальский. Все убеждены, что он, будучи одним из организаторов, выиграл нечестно. Затем жертвой одичавшей толпы становится гейша. Чудом древнему германцу удаётся вырвать бедняжку из рук орущих и царапающихся обиженных, разъярённых женщин и мучимых любопытством мужчин. Будучи в безопасном месте, германец уговаривает гейшу раскрыться: ею оказывается Саша Пыльников. Шалость сестер Рутиловых удаётся, и сам Саша в восторге. Бенгальский обещает не выдавать Сашу, и надолго сдерживает слово.
На том же маскараде присутствует и Передонов. В своём помешательстве он перестал отличать иллюзии от реальности. В последнее время ему не давала покоя серая недотымка — существо, воплощающее бесовские силы. На маскараде она становится особенно докучливой и вынуждает Передонова поджечь занавес в одной из комнат. Люди не пострадали, но здание сгорело. Преступление Передонова остаётся безнаказанным: никто не уличает его в поджоге.
Часто Ардальон Борисыч проходит мимо дома сплетницы Вершиной, которая всегда зазывает его в гости. Он нередко составлял ей компанию, вот и на этот раз не отказывается заглянуть. В своей притворной жалости к Передонову ехидная женщина высказывает напрямую, как ловко его одурачили.
Передонов окончательно сходит с ума. Его мучительно устрашает всё и вся: щели в дверях, игральные карты, собственный кот, жена и даже жалкий прихвостень Павлушка Володин — коллега Передонова, который всю жизнь безвольно терпел от него оскорбления. Передонов за внешность и манеры Володина часто сравнивал его с бараном, и даже подозревал, что Павлушка оборотень и обращается иногда бараном, чтобы уличить Передонова в чём-нибудь, донести, устранить конкурента и самому стать инспектором.
На следующий вечер Передонов выпивает в компании Варвары и Володина. Алкоголь и пьяная беседа всё больше раздражают его помутнённый рассудок. Перебрав и осмелев, Володин с презрительным сожалением говорит приятелю: «Околпачили тебя, Ардаша». На это Передонов свирепо рычит: «Я тебя околпачу!», набрасывается на него с ножом.
В городе поднимается паника, весть о жестоком убийстве распространяется мгновенно. Когда люди входят в дом, Передонов сидит понуро, безумными глазами смотрит на труп и бормочет что-то бессмысленное.
Реальной основой для характеров и событий романа явились дикие нравы уездного города Великие Луки, где Ф. Сологуб в период с 1885 по 1889 гг. работал учителем. Автор признавался, что он «значительно смягчил краски „Мелкого беса“; были факты, которым никто бы все равно не поверил, если бы их описать».
