Сгенерировала UDL - соединяется
Взяла оттуда строку соединения - соединяется (см. str1)
Взяла сам UDL - не соединяется (см. str2)
Может еще какие-то параметры нужно установить?

Dim cn
Set cn = CreateObject("ADODB.Connection")
  str1 ="Provider=SQLOLEDB.1;Integrated Security=SSPI;Persist Security Info=False;Initial Catalog=test;Data Source=user\sqlexpress"
  str2 = "File Name = D:\test.udl"
  cn.Open  str
  cn.Close
Set cn = Nothing

Я думаю, что дело в разрядности: сам провайдер (наверное, 64), а приложение, которое его запускает 32 (VBS,1C)
C:\Windows\syswow64\rundll32.exe "C:\Program Files (x86)\Common Files\System\Ole DB\oledb32.dll",OpenDSLFile C:\test.udl