Задача - поднять виндовс аутентификаю.
По документации, как я понимаю, я должен просто прописать в аутентификации операционной системы пользователя, например:
\\domen\Vasya.Pupkin. Больше ничего делать не нужно.
Но проблема в том, что большинство пользователей не могут аутентифицироваться нормально - постоянно выскакивает окно авторизации.
Как выполняется процесс аутентификации ?
1с-ка сравнивает юзера системы со своими пользователя и если не находит соответствие, то выдает окно авторизации ?

Галку "Аутенификация 1С предприятие" нужно снимать, чтобы аутентификация ОС заработала ? или можно оставить ?

Через домен сравнивает. Пользователь должен быть зарегистрирован в домене.