#hurtowniadanych najlepsze najnowsze

adreno420 2024-02-21 22:40:45 +0
W pracy mam taki termin „stacja przesiadkowa” wie ktoś co to dokładnie jest?



#analiza danych #hurtowniadanych #datascience #pracbaza #studbaza #pracait #sql
S.....n 2024-02-21 22:45:53 +2
@adreno420: To jak się z jednego pociągu przesiadasz na drugi.
xavhowk 2024-02-21 22:46:26 +3
@adreno420: U mnie to oznacza jakiś serwer do którego łączysz się pulpitem zdalnym z ogólnej sieci korporacyjnej i z którego to serwera możesz się połączyć do maszyn w wyizolowanej sieci produkcyjnej.
pokaż komentarze (2)
przecietnyczlowiek 2022-11-16 11:48:20 +0
Pytanie. Tworzę hurtownię danych na SQL Server/Azure SQL. Na źródle mam pewne kategorie jako nvarchar. Np. typ dokumentu = faktura albo zamówienie. Podczas ładowania ze stagingu do hurtownii, denormalizuję tabele by uzyskać tabelę faktów czyli np. robie joina z jednej tabeli do drugiej, gdzie warunek to typ dokumentu = typ dokumentu. Czy dostaję jakąś stratę na performancie, że robie takie rzeczy po tekście zamiast jakichś integerach np? Czy uzyskałbym lepszy perfomance gain gdybym na wejściu zrobił case when [typ dokumentu] = faktura then 1 itd. i potem po tym joinował?

#sql #datawarehouse #hurtowniadanych #sqlserver
borkovski 2022-11-16 11:55:44 +4
@przecietnyczlowiek:
Czy dostaję jakąś stratę na performancie, że robie takie rzeczy po tekście zamiast jakichś integerach np?
Tak
Czy uzyskałbym lepszy perfomance gain gdybym na wejściu zrobił case when [typ dokumentu] = faktura then 1 itd. i potem po tym joinował?
Nie
Damian8Damian9 2022-11-16 12:19:01 +3
@przecietnyczlowiek: Jeśli to jest DW to z założenia powinieneś tworzyć tabele wymiarów i kolumny typu typ dokumentu właśnie podmieniać na FK
pokaż komentarze (1)
AnonimoweMirkoWyznania 2022-08-20 16:51:26 +1
#anonimowemirkowyznania
#etl #ssis #sql #bu #hurtowniadanych #dwh
Cześć,
Obecnie w robocie siedzę w BI jako taki analityk biznesowy i klepacz dashboardów ( ͡° ͜ʖ ͡°) Wcześniej pracowałem kilka lat na sql + excel głównie DQL, T-SQL znam w miarę dobrze(cte, windows function itp.). Chciałbym trochę rozszerzyć swoje skillsy o ETL i zacząłem uczyć się SSIS.
Moje pytanie do doświadczonych DWH/ETL Developerów.
Jak to jest z tym SSIS, w jakiej formie go wykorzystujecie? Z tego co widziałem u mnie w korpo wszystko i tak jest na procedurach, które wykonują truncaty, transformacje i inserty. Czy SSIS służy tylko poukładaniu kolejności wykonywania poszczególnych procedur w bardziej przejrzysta formę, ale wszystko i tak jest zaszyte w T-SQL? Ewentualnie obsługa jakiś błędów?
W jakim zakresie według Was nauka ssis ma sens, aby móc się tym pochwalić w CV ( ͡° ͜ʖ ͡°) , a co sobie z nauki tego odpuścić. Trzeba ogarniać wszystkie transformacje dostępne w ssis? Z tego co czytałem robienie tego procedurami jest wydajniejsze.

---
Kliknij tutaj, aby odpowiedzieć w tym wątku anonimowo
Kliknij tutaj, aby wysłać OPowi anonimową wiadomość prywatną
ID: #6300b92fd62dfabca7f8ac9c
Post dodany za pomocą skryptu AnonimoweMirkoWyznania ( https://mirkowyznania.eu ) Zaakceptował: karmelkowa
Doceń mój czas włożony w projekt i przekaż darowiznę
przecietnyczlowiek 2022-08-20 17:19:27 +0
Czy SSIS służy tylko poukładaniu kolejności wykonywania poszczególnych procedur w bardziej przejrzysta formę, ale wszystko i tak jest zaszyte w T-SQL?

@AnonimoweMirkoWyznania: generalnie tak, zwłaszcza dla baz sqlowych. SSIS jest orchestratorem, ale transformacje i data cleansing wykonuje się po stronie SQL. Chyba, że w grę wchodzą jakieś importy/exporty z data lakeów, api (tu i się skrypty w c# nawet pisze) nosqli.

W Azure Data Factory może być podobnie, aczkolwiek jest też opcja azure data factory data flows, gdzie transformacje i data cleansing wyklikuje się za pomocą bloczków.

W obu przypadkach warto się nauczyć używania parametrów, zmiennych, kontenerów for each. Nie trzeba się mocno wgryzać w narzędzia ETLowe by móc w nich sporo zrobić.
Po stronie sql wiadomo - robienie lookupów, zmiana typów danych, agregacje, incremental loading.
AnonimoweMirkoWyznania 2022-08-20 18:20:03 +0
OP: @przecietnyczlowiek: dzięki. Oczywiście mówię o bazach sqlowych. Oganianie danych z api, datalakow, big data na razie nawet nie ruszam, z resztą nie mam z tym styczności w robocie i na razie to dla mnie wyższa szkoła jazdy.
W robocie sporo siedzę właśnie z ETL Devem, gdzie mu tłumacze jak dane w finalnym modelu powinny wyglądać, czasami pisze mu gotowy kod w T-SQLu z tej czesci tranformacji, bardziej dla wlasnego rozwoju niz dlatego ze on nie ogarnia, bo ogarnia. Nie mam tylko pełnego dostępu do dwh i brak ssis, żeby to sobie samemu porobić, albo przesledzic caly proces.

Chcialbym etle ograniac na poziomie juniorskim, zeby byc bardziej BI Developerem również od tej strony back endowej, bo widzialem ze czesto na tych lepiej płatnych ofertach ( ͡° ͜ʖ ͡°)wymagaja znajomosci etl i ssis. Zaczalem sie uczyc samemu. Ogladajac tutoriale na yb widzialem jak hindus robi doslowanie wszystko drag&drop w ssis i mialem maly mindfuck jak zestawilem to z tym jak to u mnie w korpo wyglada. Nabralem podejrzen jak czyscil cala tabele deletem ( ͡° ͜ʖ ͡°)
---

Ten komentarz został dodany przez osobę dodającą wpis (OP)
Zaakceptował: LeVentLeCri