БУДУЩЕЕ или мечта ?

1. XAKEP 08.06.21 16:44 Сейчас в теме
https://youtu.be/obQunWMJ8qc

что вы думаете о использовании видеокарт в 1с
По теме из базы знаний
Вознаграждение за ответ
Показать полностью
Найденные решения
21. XAKEP 08.06.21 19:49 Сейчас в теме +1.5 $m
(19)
приехал...кроме оси еще нужно и неподъемное железо :
https://github.com/heterodb/pg-strom/wiki/002:-HW-Validation-List

и еще фокус :

PG-Strom requires Linux operating system for x86_64 architecture,
and its distribution supported by CUDA Toolkit.
Our recommendation is Red Hat Enterprise Linux or CentOS version 8.x series.

GPU Direct SQL Execution (w/ HeteroDB driver) needs Red Hat Enterprise Linux or CentOS version 7.3/8.0 or newer.
GPU Direct SQL Execution (w/ NVIDIA driver; experimental) needs Red Hat Enterprise Linux or CentOS version 8.3 or newer, and Mellanox OFED (OpenFabrics Enterprise Distribution) driver.
Остальные ответы
Подписаться на ответы Инфостарт бот Сортировка: Древо развёрнутое
Свернуть все
23. Fox-trot 163 09.06.21 11:04 Сейчас в теме
(1)https://servernews.ru

Компания CacheQ, основанная двумя бывшими руководителями Xilinx и группой инженеров, обещает совершить революцию в мире разработки ПО. CacheQ Compiler Collection позволит компилировать проекты так, чтобы они выполнялись намного быстрее за счёт распараллеливания процесса. А изюминка в том, что, по словам создателей, нет необходимости массового ручного переписывания кода и использования особых библиотеках или сложных API для параллелизации.

Результаты впечатляют. На процессоре x86 с 12 ядрами прирост быстродействия в работе приложения составляет почти 500 % по сравнению с однопоточным выполнением и сборкой с помощью GCC. На процессоре M1 с восемью ядрами Arm — на 400 % быстрее традиционного «однопотока».
24. XAKEP 09.06.21 13:10 Сейчас в теме
2. starik-2005 3087 08.06.21 16:57 Сейчас в теме
ГПУ - это множественные процессоры, которые могут параллельно обработать достаточно большое количество данных. Для них нужна задача. Например, какая-нить множественная отработка Монте-Карло для предполагаемого денежного потока (ЦБ сейчас вот просит 30к тестов для бенчмарка от своих подопечных, а у них там по 20-200кк договоров - в том же СБЕРе, например).

Но для расчета себестоимости, например, достаточно и одного потока и кода на С. Я делал пример один расчета сложного, так вот на С с кешированием исторических данных даже один поток рассчитывал результат на несколько порядков быстрее, чем в 1С (также с кешированием). Все занимало секунды времени, а не часы, как на 1С. Да та же загрузка недействительных паспортов на С у меня занимает 2 секунды на ноутбуке, после чего проверка номера происходит за О(1), т.е. это быстрее, чем в самой быстрой базе данных, ибо нет миграции потока между источником и приемником - просто берутся данные из файла и на выходе файл с проблемными элементами. На все про все доли секунды (при 3кк паспортов).

Сама по себе база данных на ГПУ - это не совсем ясная штука. Если это именно данные в памяти графического адаптера (inmemory database), то надежность всего этого под большим вопросом. Если же это просто какой-то OLAP для того, чтобы крутить его так и этак - тут такие ресурсы и не нужны особо.

В общем важен сам конкретный кейс применения. То, что это можно сделать - вопросов нет, остается главный вопрос - зачем?
3. XAKEP 08.06.21 17:01 Сейчас в теме
(2)
я не про SQL в графической карте,
а про применение GPU в расчетах

или например для уменьшения базы с 500Гб до 5Г. :) или плюс минус.....
4. starik-2005 3087 08.06.21 17:02 Сейчас в теме
(3) а за счет чего база уменьшится? Свертка? Ну так основное время - это не время свертки, а время чтения данных и их записи в свернутом виде.

И что считаем?
5. XAKEP 08.06.21 17:10 Сейчас в теме
(4)
после 37мин. на видео
я не очень разбираюсь в терминах, но возможно вы скажете, реально ли применять GPU ?

тем более для слона есть PG-Strom , но как он работает ?
6. starik-2005 3087 08.06.21 17:19 Сейчас в теме
(5)
PG-Strom
Its core features are GPU code generator that automatically generates GPU program according to the SQL commands and asynchronous parallel execution engine to run SQL workloads on GPU device. The latest version supports SCAN (evaluation of WHERE-clause), JOIN and GROUP BY workloads. In the case when GPU-processing has advantage, PG-Strom replaces the vanilla implementation of PostgreSQL and transparentlly works fr om users and applications.
Ну как бы пишут, что это на графических процессорах с тысячами ядер может ускорить некоторые сложносочиненные запросы. Ну и объясняют, что реализуются команды SCAN - фактически WH ERE, JOIN и GROUP BY - фильтрация, соединение и группировка. Больше ничего ГПУ в PG-Storm не делает.

Суть всего - это параллельность. Вот есть массив данных с хитрым отбором или условием соединения: поля не индексированы, может быть даже не по полю соединение, а по выражению, а там еще хитрая группировка с хитрыми агрегатами. Все эти операции прекрасно параллелятся, т.к. они могут работать независимо друг от друга. Например, есть список с сотней тысяч строк - он грузится в графический адаптер и там бьется на тыщу фрагментов по сотне строк. В итоге каждый поток по сотне строк фильтранул, по ним собрал агрегаты, соединил может быть с другим списком свою порцию. Чем больше процессоров - тем больше порций параллельно можно обработать. Вот и все преимущество.
7. XAKEP 08.06.21 17:25 Сейчас в теме
(6)
у меня моск еще больше загрузили :)
он у меня только один.

с вашей точки зрения , в каком месте или связке и для каких процессов , связанных с 1с можно использовать GPU

желательно на русском и терминами, которые понятны не программисту :)
8. starik-2005 3087 08.06.21 17:28 Сейчас в теме
(7) https://heterodb.github.io/pg-strom/ssd2gpu/ - читните, там как раз написано, как прям с NVME данные грузятся в GPU с помощью pgstorm, там обрабатываются и все такое. С картинками...
9. XAKEP 08.06.21 17:29 Сейчас в теме
(8)
спасибо.
картинки интересно смотреть
вот в школе кум теля пасе не учил
а здесь англ. :)
10. starik-2005 3087 08.06.21 17:30 Сейчас в теме
(9) в хроме есть "перевести на язык"
11. XAKEP 08.06.21 17:32 Сейчас в теме
(10)
да я на лисе, и о переводчике знаю :)

но машина не человек, как не крути,
даже если 25ядер 8Ггц и 640Гб ддр25 памяти :)
12. starik-2005 3087 08.06.21 17:33 Сейчас в теме
(11) сейчас гугл переводит лучше, чем большинство человеков. Он тупо больше знает, чем любой переводило через дороги.
13. XAKEP 08.06.21 17:33 Сейчас в теме
(10)
единственное, я понял, что собирать слона надо именно с этим PG-Strom , да ?
14. starik-2005 3087 08.06.21 17:38 Сейчас в теме
(13)
что собирать слона надо именно с этим PG-Strom
В Убунте просто ставится как модуль: http://heterodb.github.io/pg-strom/install/
15. XAKEP 08.06.21 17:44 Сейчас в теме
(14)
CUDA Toolkit 11.3 or later а это чудо ?
16. starik-2005 3087 08.06.21 17:46 Сейчас в теме
(15) библиотека вычислений на GPU от NVIDIA. Есть еще OpenCL.
17. XAKEP 08.06.21 17:48 Сейчас в теме
(16)
https://developer.nvidia.com/cuda-downloads?target_os=Windows&target_arch=x86_64&target_version=10&targe­t_type=exe_local


а я думал на 8.1 оставаться до победного...да нет для загрузки под нее
19. starik-2005 3087 08.06.21 18:05 Сейчас в теме +0.5 $m
(18) поставь нормальную ось и не мучайся.
20. XAKEP 08.06.21 18:45 Сейчас в теме
(19)
debian 6-7-8
archlinux
убунту-кубунту
windows 7-8-10 ( 1809-1909)

для меня пока 8.1 :)
21. XAKEP 08.06.21 19:49 Сейчас в теме +1.5 $m
(19)
приехал...кроме оси еще нужно и неподъемное железо :
https://github.com/heterodb/pg-strom/wiki/002:-HW-Validation-List

и еще фокус :

PG-Strom requires Linux operating system for x86_64 architecture,
and its distribution supported by CUDA Toolkit.
Our recommendation is Red Hat Enterprise Linux or CentOS version 8.x series.

GPU Direct SQL Execution (w/ HeteroDB driver) needs Red Hat Enterprise Linux or CentOS version 7.3/8.0 or newer.
GPU Direct SQL Execution (w/ NVIDIA driver; experimental) needs Red Hat Enterprise Linux or CentOS version 8.3 or newer, and Mellanox OFED (OpenFabrics Enterprise Distribution) driver.
22. пользователь 08.06.21 21:17
Сообщение было скрыто модератором.
...
25. Fox-trot 163 09.06.21 15:28 Сейчас в теме
уточни плиз свою шутку юмора для тех кто с бронепоезда
26. XAKEP 09.06.21 15:31 Сейчас в теме
(25)
при переходе по ссылке
я попадаю на https://cacheq.com/
но скачать или оценить - только https://cacheq.com/request-a-demo/

если ваша ссылка копировать-вставить
тогда : https://servernews.ru/

вот я и не понял :)
Оставьте свое сообщение

Для получения уведомлений об ответах подключите телеграм бот:
Инфостарт бот