Latex или DocBook

Глупости про формат.
Latex удобен, когда в документе есть необходимость ввода сложных формул и рисования диаграмм. DocBook и DITA для этих целей мало применим. Поэтому если вам, например, надо написать математический справочник и издать его, то лучше применять Latex. Для пользовательской документации вполне подойдет и, наверное, даже будет удобнее DocBook.

Только не всеми браузерами поддерживается, насколько я знаю.

А почему не сделать формулы картинкой ? Можно не PNG/JPG, а полноценный SVG использовать.
Вставляй куда хочешь, отобразится везде. Редактировать можно в любом текстовом редакторе. И нет геморроя с форматами )

иногда это быстрее, чем с Latex разобраться, тем более по нему очень мало информации в Интернете.

Потому что ты писал только документацию к бизнес-приложениям и никаким другим.
Например, у меня был фрилансерский проект по разработке онлайн-справки по работе с математическим онлайн-редактором. У этого редактора была куча функционала, который позволял писать и редактировать научные и технические статьи. Он был предназначен для преподавателей технических вузов. Возникает вопрос, совсем нетрудоемко, на твой взгляд, в этом случае отдельно писать формулы, их скриншотить и потом вставлять в текст? И, кстати, в чем ты их планируешь составлять? В "неудобном" ворде?

Это такое же бизнес-приложение как и все остальные, только направленность у него не так широка, как большинство редакторов.  

У меня был проект по разработке телематической платформы, где нужно было описать API модуля "расчетов", к которому должны обращаться сервисы сторонних разработчиков. И документация предназначалась именно для сторонних девелоперов, которым нужно понимать к чему обращаться, откуда ждать результаты расчетов и как все считается. Всего около тысячи операций, соответственно по несколько формул в каждой операции расчета.
Ни одной формулы не использовал, т.к. не математик и не факт, что читающий эти формулы поймет. Нарисовав формулу, совсем не очевидно, что она будет правильно осознана. А когда словами пишется, что на что умножается/делится/прибавляется/отнимается, какие коэффициенты применяются и откуда они берутся - вопросов не возникает.

Причем тут осознание формулы? Тебе надо написать примеры ввода формул в математическом редакторе, в котором используется свой язык.Ты можешь сколько угодно упираться в своем предположении, что все можно описать словами. Но факт остается фактом, необходимость ввода сложных формул в некоторой документации присутствует. Также это очень актуально при разработке содержательной конструкторской документации, где помимо текстового обоснования присутствуют математические расчеты. При этом ее основной формат - печатный. Для последнего варианта очень целесообразно использовать Latex, а не Docbook или DITA.
И повторю вопрос: ты для картинки где будешь формулу брать?  

Я не упираюсь. Я реально не могу понять, какова ценность: а) наличия формулы в документации в принципе; б) формулы в текстовом виде, а не в картинке.
Никогда не сталкивался. Для чего-то реально существует модуль MathML. Но для чего он, для меня это загадка.

Погуглил, нашел несколько примеров, но везде в них формулы сделаны в виде картинок. Такое ощущение, что это прикол какой-то )  

А чем Вас H&M не устраивает? Вставка OLE-объектов Microsoft Equation 3.x или MathType (в CHM и HTML получаются gif-картинки).