Что означает блокировка IX на таблицу документа? Читаю в интернете, что она не совместима с X блокировкой. Но почему тогда я могу добавить новый документ при IX блокировке на таблице?

IX на таблице означает, что есть одна или несколько X блокировок на индекс/строку.
Движок эскалирует вверх блокировки (в данном случае от строки к таблице) в виде "I<что-то тут>", показывая таким образом, что кто-то внизу уже наложил блокировку "<что-то тут>". Движок пессимист по своей сути и готовится к плохому )

(1) То сама по себе блокировка IX на таблицу не мешает наложить X на строку, если она не пересечется с другой X?

(2) Верно.

Еще в тему - когда станет много X блокировок на строки, движку это надоест отслеживать и он переключит на таблице IX блокировку на X в одно касание.