Произведение состоит из двух частей. Первая, завершенная, называется «Ожидание». Двадцатилетнему Генриху, ученику капеллана, снится сон о том, что он бредет по темному лесу, выходит к горам и в пещере находит непередаваемой красоты голубой цветок. Голубой цветок — это символ немецкой романтической поэзии, иными словами — чистой поэзии и совершенной жизни. Ему не удается досмотреть свой сон до конца, поскольку к нему в комнату заходит мать и будит его.
Чуть позже Генрих покидает Тюрингию, дом своего отца, и вместе с матерью едет в Аугсбург, на ее родину. Они путешествуют в сопровождении купцов, тоже направляющихся в Южную Германию. Генрих, которому предначертано стать большим поэтом, с трепетом прислушивается к рассказам своих попутчиков о поэтах и об их власти над душами всех живых существ. Купцы знакомят его с двумя легендами. В одной из них говорится о том, как некогда, в далекие времена, одному прославленному поэту и певцу грозила гибель от руки жадных до его сокровищ владельцев корабля, на котором он плыл по морю. Однако его песни так потрясли морских животных, что они спасли ему жизнь и вернули отобранные у него сокровища. В другой легенде речь идет о дворе просвещенного, покровительствующего поэзии короля и его дочери, которая однажды покинула родительский дом и целый год скрывалась от отца, живя в лесу с любимым человеком. Через год ее возлюбленный своими песнями и игрой на лютне настолько овладел сердцем ее отца, что тот даровал им обоим прощение и принял в объятия их и новорожденного — своего внука.
Через несколько дней путники останавливаются в замке старого воина и становятся свидетелями подготовки к новому крестовому походу. В его же владениях Генрих знакомится с молодой, привезенной с Востока пленницей Зулеймой. Она томится вдали от родины и оплакивает свою безрадостную судьбу.
Покинув замок, Генрих со своими попутчиками вскоре останавливается в предгорной деревне, где знакомится со старым рудокопом. Тот рассказывает им о своей жизни, о металлах и минералах, сокрытых в недрах земли. Под его предводительством они посещают в горах целую галерею пещер, где находят останки доисторических животных и знакомятся с отшельником, который после славной и насыщенной военными подвигами молодости удалился от людей для отдохновения, познания внутренней жизни своей души и изучения истории. Отшельник показывает им свои книги. В одной из них Генрих обнаруживает пещеру, самого себя, а рядом — отшельника и старика, и все одеты в непривычную одежду, а надписи сделаны на непонятном ему языке. Постепенно он находит на других страницах описание восточной женщины, своих родителей и многих других известных ему людей.
Ознакомившись за время своего путешествия по стране с некоторыми тайнами истории и недр земли, Генрих фон Офтердинген наконец прибывает в Аугсбург, к своему деду — старому Шванингу. В доме у деда Генрих знакомится с поэтом Клингсором, величавым человеком, изображение которого он уже видел в книге отшельника, и его дочерью Матильдой. Между молодыми людьми с первого же взгляда вспыхивает любовь, а вскоре они становятся женихом и невестой.
Клингсор руководит духовным становлением юного Генриха. Он беседует с ним о поэзии, о его внутреннем мире и о наиболее целесообразном и естественном «пользовании» своих душевных сил. Призывает его совершенствовать разум, а также постигать закономерность происходящих в мире событий, проникать в «сущность» любого дела, любого явления, чтобы душа в итоге стала внимательной и спокойной. Необходимо также, чтобы душа была искренней, а искренняя душа подобна свету, она столь же проникновенна, могущественна и незаметна, как свет.
Генрих рассказывает Клингсору о своем путешествии, и вся его речь, ее строй и образность, свидетельствуют о том, что молодой человек рожден быть поэтом.
По убеждению Клингсора, в поэзии нет ничего необычного, она есть «основное свойство духа человеческого». Вечером во время пира Клингсор по просьбе Генриха рассказывает гостям символическую сказку о победе поэзии над рассудочностью. Эта история предвосхищает то, о чем должна пойти речь во второй части романа. В сказке говорится о королевстве Арктура и о прекрасной Фрее, его дочери, об Эросе и его молочной сестре Басне, а также об их крестной матери Софии.
Вторая часть романа (ее Новалис не успел закончить) называется «Свершение». Начинается она с того, что Генрих в облике странника в состоянии отчаяния, в которое он впал после смерти Матильды, бредет по горам. Перед ним внизу расстилается Аугсбург, вдали блестит таинственно поток. В стороне он как будто видит монаха, стоящего на коленях перед дубом. Ему кажется, что это старый придворный капеллан. Однако, подойдя ближе, он осознает, что перед ним всего лишь утес, над которым склонилось дерево. Вдруг дерево начинает дрожать, камень глухо гудит, а из-под земли доносится радостное пение. Слышится голос, который просит Генриха сыграть на лютне и спеть песню, он обещает, что тогда появится девушка, которую он должен взять с собой и не отпускать от себя. Генрих узнает голос Матильды. В листве дерева перед ним возникает видение его возлюбленной, которая с улыбкой, ласково на него смотрит. Когда видение исчезает, вместе с ним из его сердца уходят все страдания и заботы. Не остается ничего, кроме тихого томления и грусти. Проходит боль утраты. Генрих начинает петь и не замечает, как к нему подходит девушка и уводит его с собой. Она знакомит его со стариком, которого зовут Сильвестр, он врач, но Генриху кажется, что перед ним старик рудокоп.
Оказывается, что давным-давно старика посетил отец Генриха, в котором Сильвестр увидел задатки скульптора, и познакомил его с драгоценным наследием древнего мира. Однако его отец не послушался зова своей истинной природы. Рациональное отношение к окружающей действительности пустило в нем слишком глубокие корни. Он сделался всего лишь искусным ремесленником.
Старик желает, чтобы Генрих вернулся в свой родной город. Однако Генрих говорит, что лучше узнает свою родину, путешествуя по разным странам, и вообще, люди, много путешествующие, отличаются от других более развитым умом и прочими удивительными свойствами и способностями. Они ведут беседу о добре и зле, о причинах зла.
Новалис не успел завершить эту вторую часть, в которой хотел выразить суть поэзии. Не успел он и оформить свою мысль о том, что все на свете: природа, история, война, обыденная жизнь, — все превращается в поэзию, поскольку она и есть дух, оживляющий все сущее в природе. Во второй части Генриху предстояло более полно ознакомиться с окружающим миром. Он должен был попасть в Италию, участвовать в военных действиях, при дворе императора встретиться с сыном Фридриха II и стать его близким другом, побывать в Греции, совершить путешествие на Восток, вплоть до Иерусалима, затем вернуться в Тюрингию и вместе с Клингсором принять участие в знаменитом поэтическом турнире. Продолжение романа должно было превратиться в мифологическое, исполненное символики повествование, в котором все: животные, растения и камни — должно было разговаривать и претерпевать волшебные превращения. Матильде, уже после своей смерти, в облике разных женщин предстояло часто встречать Генриха, который наконец наяву должен был сорвать «голубой цветок», увиденный однажды во сне.