Цитата | ||
---|---|---|
написал: Скажем так, вы можете загрузить в PBI или PP практически любое кол-во строк - все зависит от ресурсов процессора и оперативной памяти. Но даже если Вы, как разработчик в PBI или PP, установите себе супер многоядерный процессор и сотни гигов оперативы, чтобы обрабатывать милиарды строк к примеру. То это не будет работать у конечного пользователя в облаке или локальном сервере, т.к. там другие ресурсы и они ограничены. Если ваши исходные данные оперируют 100-и млн или миллиарды строк и вы их хотите обрабатывать в PBI (PP), то вам сначала следует определить уровень гранулярности, до которого потребуется анализировать данные и предварительно группировать и хранить данные уже в нужном виде и объеме. Для это лучше всего создать отдельное хранилище данных, куда предварительно будут заливаться и обрабатываться исходные данные (к примеру раз в сутки ночью все обновляется). А уже к этому хранилищу цепляетесь и делаете строите аналитику. Я к примеру, использую хранилище, в котором таблица фактов сгруппирована до 50 млн. строк, такой объем спокойно обрабатывается и в PP, и в PBI, имея 16 ГБ оперативы и core i5-7500 на борту. Отвечая на первоначальный вопрос:
|
Обработка больших массивов, Какими программами лучше обрабатывать Гигабайты массивов данных
Обработка больших массивов, Какими программами лучше обрабатывать Гигабайты массивов данных
27.10.2022 18:56:17
Большое спасибо! |
|||
|
Обработка больших массивов, Какими программами лучше обрабатывать Гигабайты массивов данных
27.10.2022 18:55:19
Спасибо. Ну 800 тыс строк Excel вытягивал, сводные строились, гистограммы/графики тоже. У сетевиков файлы исчисляются десятками, сотнями Гигабайтов. Пока не понятно, чем и как обрабатывать и на какие курсы выпрашивать денег в компании для обучения ![]() |
|||||
|
Обработка больших массивов, Какими программами лучше обрабатывать Гигабайты массивов данных
27.10.2022 16:43:11
Добрый день.
Подскажите, достаточно ли будет изучить Power Query и Power Pivot для обработки массивов крупных сетевых магазинов (Дикси, Магнит, Х5) для построения дашбордов? До этого работала с массивами до 1млн строк, обходилась Excel.
Изменено: |
|
|
Промежуточный итог в сводной таблице, Как суммировать месяцы в кварталы с разбивкой по годам
09.08.2022 16:42:07
Добрый день.
Подскажите возможные варианты по следующей проблеме: Есть месяцы и годы со значениями. Необходимо по итогам квартала выводить итоги в сводной таблице, но отдельно за 21 год и отдельно за 22 год. Через вычисляемое поле не сделать, т.к. данные в массиве не в столбцах, а расположены горизонтально. Во вложении пример файла - что получается сейчас в сводной таблице и что нужно. Спасибо.
Изменено: |
|
|