Если вы хотите написать реально непонятную книгу по математике, придерижвайтесь следующих правил:
Вводите новые значки и не объясняйте, что они значат. Стрелки, волны и точечки над буквами отлично подойдут.
Не вздумайте использовать рисунки для объяснения ваших мыслей - это портит способность к абстрактному мышлению!
Вставляйте поменьше текста между формулами. Если вы определяете новое обозначение, совсем необязательно объяснять, что это такое: множество, отношение, элемент. Нотация достаточно строга, чтобы читатели сами все поняли.
Если вы все-таки вынуждены использовать текст, старайтесь как можно сильнее сплести его с формулами. Не вздумайте выделять под формулу отдельную строку - деревьев все меньше, а в книгу так хочется вставить побольше материала!
Ваш текст должен плавно перетекать из одной теоремы к другой. Избегайте параграфов, пунктов и именованных секций - они делают книгу метрвой, как справочник. Несомненно читателю доставит куда большее внимание просто следить за потоком ваших мыслей, чем понимать, куда движется изложение и где он находится в данный момент.
Не тратьте свои сила на полуформальные и интуитивные определения. Кому надо - поймут все сразу в строгой форме.
Если вы захотели привести пример, никогда не придумывайте его из жизни. Кому интересно изучать теорию множеств на примерах с зайчиками и белочками? Гораздо лучше делать чисто буквенные примеры, хотя иногда можете снизойти до рассмотрения примеров вроде “множества натуральных чисел”.
Если вам известно что-то про применение теории, которую вы описываете, постарайтесь сохранить это в тайне. Вашим читателям будет гораздо интереснее рассматривать чистое манипулирование с символами, нежели что-то имеющее применение в этом грязном мире. Да и в конце концов - наверняка им расскажут про применения где-нибудь в другом месте!