У пользователя добавил все нужные группы, добавил контрагента  в нужную группу доступа, но пользователь все равно всех видит. Что еще где можно посмотреть?

(0) посмотреть набор ролей, скорее всего какая-то роль дает полный доступ

(1)
Нет, у него есть одна роль, где у контрагентов чтение и просмотр. На просмотр рлс не ставится, если просмотр отключить, вообще ничего не видно. На чтение стоит рлс, вроде типовой.
#ТаблицаОсновогоВидаОбъектаДоступа("Контрагенты", "ГруппаДоступаККонтрагенту", "ИЛИ ЭтоГруппа")

Я там что-то поколдовал, вроде это заработало. А теперь вопрос, что надо вставить в документы, чтобы тоже срабатывало по этому принципу?

Убери все роли и добавляй только те, у которых есть использование рлс. Может и нащупаешь

в рлс документов ничего нет, что там написать, чтобы также по контрагенту фильтровались

вот это в роль на чтение добавил, вроде работает

#ОрганизацияВШапкеКонтрагентВШапке("Организация", "Контрагент")