Если вы хотите написать реально непонятную книгу по математике, придерижвайтесь следующих правил:

Вводите новые значки и не объясняйте, что они значат. Стрелки, волны и точечки над буквами отлично подойдут.

Не вздумайте использовать рисунки для объяснения ваших мыслей - это портит способность к абстрактному мышлению!

Вставляйте поменьше текста между формулами. Если вы определяете новое обозначение, совсем необязательно объяснять, что это такое: множество, отношение, элемент. Нотация достаточно строга, чтобы читатели сами все поняли.

Если вы все-таки вынуждены использовать текст, старайтесь как можно сильнее сплести его с формулами. Не вздумайте выделять под формулу отдельную строку - деревьев все меньше, а в книгу так хочется вставить побольше материала!

Ваш текст должен плавно перетекать из одной теоремы к другой. Избегайте параграфов, пунктов и именованных секций - они делают книгу метрвой, как справочник. Несомненно читателю доставит куда большее внимание просто следить за потоком ваших мыслей, чем понимать, куда движется изложение и где он находится в данный момент.

Не тратьте свои сила на полуформальные и интуитивные определения. Кому надо - поймут все сразу в строгой форме.

Если вы захотели привести пример, никогда не придумывайте его из жизни. Кому интересно изучать теорию множеств на примерах с зайчиками и белочками? Гораздо лучше делать чисто буквенные примеры, хотя иногда можете снизойти до рассмотрения примеров вроде “множества натуральных чисел”.

Если вам известно что-то про применение теории, которую вы описываете, постарайтесь сохранить это в тайне. Вашим читателям будет гораздо интереснее рассматривать чистое манипулирование с символами, нежели что-то имеющее применение в этом грязном мире. Да и в конце концов - наверняка им расскажут про применения где-нибудь в другом месте!