Это происходит для любого файла, который хотите открыть? или конкретный?
Сделайте так, создайте файлы C:\documents.xls, C:\and.xls,  C:\Мои.xls потом откройте тот, который хотели. Если откроются все 4 файла, скорее всего вы случайно/специально записали макрос на открытие документов в Личной книге макросов. Удаление макросов должно помочь.
Если нет, на всякий пришлите файл который пытаетесь открыть.

Почистите реестр каким-нибудь клинером (например, ccleaner).
Ежели не поможет, то попытайтесь восстановить Офис. Почему-то из-под стандартного инструмента по удалению или изменению программ пункт "восстановить" не активируется. Я пользуюсь в таком случае UninstallTool.

Проблема - в командной строке ассоциации типа файлов, когда в пути или имени файла содержится знак пробела.
В XP исправляется так:
Открыть Проводник – меню 'Сервис' - 'Свойства папки' – вкладка 'Типы файлов' – выбрать 'XLS' (или какой нужно) – кнопка 'Дополнительно' – действия: 'Открыть' – кнопка 'Изменить' – везде, где есть %1 написать "%1" (то есть, с двойными кавычками)