#dataengineering najlepsze najnowsze

B2B_Survivor 2026-09-22 10:33:50 +141
#programista15k #programowanie #pracait #korposwiat #kryzysit #python #dataengineering

W Pythonie bez zmian.
19216811 2026-09-22 10:37:20 +71
@B2B_Survivor: Z przyjemnością informuję że od jutra moja współpraca z k---------c dobiega końca i jestem otwarty na ciekawe i inspirujące projekty. Był to naprawdę intensywny i wspaniały czas. Preferuję cały stack technologiczny celuje w stawkę 50-250zł ale jestem otwarty na każdą propozycję przy inspirującym i ground breaking produkcie.
BlackpillMonster 2026-09-22 13:00:37 +39
@sruba_m3: Czy w rekrutacji na elektryka trzeba robić podłączanie kabelków na czas, jak to ma miejsce u kodojebców z LeetCode?
pokaż komentarze (22)
jonni 2026-03-20 18:06:42 +0
#dataengineering #programowanie
gdzie widzicie szanse na zamianę testowania manualnego na data engineering? albo ogólnie jak wbić się na juniorskie pozycje odnośnie data/cloud data? dobre portfolio w modern data stack da radę?
D.....r 2026-03-20 23:16:58 +1
@jonni znajomość kimbala, podstaw DE. Jakąkolwiek pracą z analizą danych, znajomość gita, a może i znajomość databricksa szczególnie że jest fajny free tier. I możesz atakować
D.....r 2026-04-09 15:37:37 +1
@jonni analiza w zależności od firmy analizie nierówna. W jednej firmie będziesz klepał excele. W innej pbi na excelach, w innej pbi na databricksach a w innej analizował kowariancje czy autokorelacje danych. Grunt mieć punkt zaczepienia
pokaż komentarze (7)
famir96 2025-12-03 11:28:26 +0
Mam do wydania 2,5k do końca roku z budżetu szkoleniowego. Co polecacie? Jestem java devem, chciałbym w końcu trochę liznąć tego AI. Są abonamenty roczne na deeplearning.ai, coursera, udemy, ai devs, coś z tego polecicie? Jakościowo w porządku?
#programista15k #ai #sztucznainteligencja #programista25k #dataengineering #pracait #naukaprogramowania
niedorzecznybubr 2025-12-03 11:48:52 +3
kwanty 2025-12-03 12:35:42 +5
@famir96: Cokolwiek sygnowane przez Andre NG na Coursera/deeplearnig.ai

Zacznij od podstaw, od danych, od prostych koncepcji. AI oparte o sieci neuronowe są tylko narzędziem. Najważniejsze są dane i zrozumienie danych.

Tylko przestrzegam, to są długie kursy i trudne. Trzeba myśleć, liczyć i przypomnieć sobie majcę że studiów. Nie licz na schematy, nie będziesz w nich lepszy od llmów.

Inny pomysł to abonament na Gemini i zdobienie sobie samemu kursu... Możesz wrzucić publicznie dostępne kursy (np Andrew Ng) do chata i napisać... ucz mnie :-) przetestuj moja wiedzę i jedziemy co dziennie po pół godziny z materiałem. Tak też można, będziesz miał sprofilowanego tutora.
pokaż komentarze (5)
kaziuwichura 2025-11-07 15:54:44 +0
Czy ktoś zdawał może certyfikat ze Snowflake - SnowPro Core COF-C02?
Jak wygląda egzamin?

1. Czy można mieć jakieś notatki na biurku?
2. Czy przez cały czas ktoś obserwuje na kamerce nasze zachowanie?
3. Ponoć na czas egzaminu jest zablokowana przeglądarka?
4. Jakieś tipy, podpowiedzi na egzamin? :)

#sql #snowflake #dataengineering #analizadanych
konradpra 2025-11-07 16:12:19 +1
@kaziuwichura: "brązowy przyjaciel" na YT ma video o tym egzaminie.
kaziuwichura 2025-11-07 17:41:15 +1
@Arogancky: sam z siebie, ogólnie od dawna pracuje w analizie danych, ale nie miałem nigdy okazji pracować na snowflake. Z tego co widzę to coraz więcej ofert wymaga znajomości tego toola, więc robie to trochę pod rekruterów.
pokaż komentarze (5)
Trele_Duperele 2025-09-17 07:36:06 +0
#azure #pyspark #scala #dataengineering #programowanie

Czy ktos mi podpowie czemu scala zostala zepchnieta (przynajmniej z tego co czytam i widze w necie) na drugi plan jako jezyk sparka? Przeciez to jego natywny jezyk?

Tu pytanie do osob siedzacych w Azure i robiacych na nim DE:
Czego sie teraz najwiecej uzywa? PySparka? SparkSQL? Jesli tak to dlaczego? W czym piszecie notebooki?
Trele_Duperele 2025-09-17 07:47:28 +1
@vorio: Spotykam duzo komentarzy ze Scala w DE jest martwa i kazdy przechodzi na pythona. Ze nie warto jej sie uczyc.
geringxes 2025-09-17 08:20:44 +2
Wygląda na kolejność alfabetyczną ( ͡° ͜ʖ ͡°)
pokaż komentarze (5)
wezuza123 2025-09-08 18:44:00 +0
Aplikował ktoś albo pracuje na stanowisku Data Engineer (lub pokrewne) w Capgemini? Jak wygląda rekrutacja, o co pytają? Jak oceniacie samą pracę?

#capgemini #korposwiat #pracait #dataengineering #analizadanych
mateusz-boasas 2025-09-08 19:43:32 +2
@wezuza123: jaki stack i poziom? Od mojej rekrutacji mineło parę lat ale raczej nie był to rocket science - jakieś podstawy pythona (live coding i podstawowe transformacje), sql (live coding, czym sa transakcje) i w moim przypadku AWS. Co bym polecał to wywalczyć jak największą stawkę na początek, bo potem słabo z podwyżkami.

Praca jak praca, wszystko zależy od projektu. Ja przez ponad 2lata pracy byłem zadowolony z projektów a było ich z 5.
Warto uważać też na to, żeby nie dać sobie wejść na głowę. W rekordowym momencie miałem 4 projekty jednocześnie na sobie...
dml6 2025-09-09 19:27:53 +1
@wezuza123 o miałem ostatnio rekrutację do tej firmy, 2 godziny techniczna, babka podkreślała że dają feedback niezależnie od wyniku. Minął miesiąc i nadal cisza xd także szkoda czasu (poszło mi całkiem ok)
pokaż komentarze (1)
dronikk 2025-07-25 11:06:23 +1
siema mirasy (i mirabelki)
jestem zainteresowany tematem co robicie u siebie na projektach, jakie sa wasze stanowiska, czego uzywacie wiecej lub mniej, za co jestescie odpowiedzialni w swoim zespole

ja obecnie jestem BI Developerem
- tworzenie nowych raportow, utrzymywanie starych
- wszelkiego rodzaju bugfixing
- consulting z klientami, architektami i innymi ziutkami z zespolu w celu znalezienia najlepszych rozwiazan dla nowych wymagan
- praca na dwoch projektach, w jednym okolo 15 devow, w drugim troche mniej
- na obu projektach od ETL i strony bazodanowej mam ziutka ktory dostarcza mi

na co wam idzie najwiecej czasu? u mnie 50/50, jedne pol to consulting i calle z innymi czlonkami zespolu w celu lokalizacji bledow/ewentualnie dyskutowanie o nowych rozwiazaniach, drugie pol to klepanie raportow i wszystkiego co z nimi zwiazane

stack to Tableau i Power BI, cos tam jeszcze umiem pythona ktorego chcialbym sie doszkolic bardziej, w przyszlosci rowniez chcialbym rozszerzyc kompetencje o strone backendowa ktorej obecnie sam nie musza uzywac ale lepiej miec wiekszy stack niz mniejszy ( ͡° ͜ʖ ͡°)



biore 200 zlotych z konta kazdej druzyny i slucham panstwa
#businessintelligence #analizadanych #pracait #dataengineering #datascience #powerbi #tableau
peoplearestrange 2025-07-25 17:48:45 +1
@dronikk: tłumacze BI Developerom ze kolumna o data type boolean zostanie w data type boolean i mam w dupie ze silniczek ich narzędzia wariuje oraz, ze nie zmienie tego w hurtowni na Yes/No bo to niezgodne ze sztuką
peoplearestrange 2025-07-26 00:28:36 +1
@dronikk: to nie sa moje problemy bo nie odpisuje ( ͡° ͜ʖ ͡°) maja dokumentacje, niech sobie nie wciagaja tej kolumny xD
pokaż komentarze (12)
Trele_Duperele 2025-07-09 07:46:34 +2
Cześć,

Macie jakieś kanały, programy, czaty, grupy gdzie mógłbym dołączyć do pogaduszek z technicznymi ludźmi? Bez hejtu, luźne gadanie o IT, chwalenie się fajnym kodem, pomaganie sobie i tym podobne

Lubię swoją robotę (DA, BI) i chętnie pogadałbym o niej z ludźmi z branży a nie tylko z mojej firmy.

Coś na discord, slack, skool?

#programowanie #programista15k #datascience #dataengineering
siedze-na-antresoli 2025-07-09 08:03:38 +2
@Trele_Duperele zerknij na czaty polskich hackerspace na matrix
J.....u 2025-07-09 10:49:43 +1
@Trele_Duperele: linkedin
pokaż komentarze (4)
Trele_Duperele 2025-06-03 09:07:42 +1
Mirasy, jaki był wasz / waszych współpracowników progress w uczeniu się szczególnie SQL/T-SQL w data engineering / data analytics / business intelligence i innych podobnych które SQL wymagają?

Chciałbym po prostu porównać do tego co mam w obecnej firmie jako, że nasz team-lead twierdzi że mamy bardzo szybką ścieżkę uczenia się.

Dla porównania u nas juniorzy w rok uczą się:
-wiadomo całe podstawy SQL (joiny, union, selecty, where clause)
-CTE
-variables i funkcje
-pisanie stored procedures
-dynamic SQL + pisanie prostych silników na ich podstawie
-Azure Data Factory do procesowania danych z serwera na serwer

Jak jest u Was?

#pracait #dataengineering #datascience #businessintelligence
ch1nczyk 2025-06-03 09:35:30 +0
@Trele_Duperele: Jesli chodzi o sam SQL to wg mnie wystarczajaco do ogarniecia w rok - tyle, albo i mniej, sie na projektacg wykorzystuje na codzien.

Skupilbym sie moze bardziej na poszerzeniu szkolenia na inne tematy - Databricks (PySpark), moze Fabric, moze cos opartego o NoSQL, streaming / eventy - czy w ogole inne ciekawe OSS - Airflow, dbt itd. Zalezy czym sie zajmujecie i jaki jest tech stack w firmie / prognozowany tech stack.
peoplearestrange 2025-06-03 12:15:13 +0
@Trele_Duperele: po prostu wpjerdol sie w bagno gdzie nikt nie wie nic i zrob przyzwoita hurtownie danych i caly proces etlowy, do tego monitoring i testy i jestes gotowy by przepychac kolejne szambo, tym razem szybciej i za wieksza kase( ͡° ͜ʖ ͡°) stack wybierasz sam, byle nie przekombinowac, obecnie masz tego tyle, ze nie ma jednego slusznego stacku

Nie ma czego tu sie rok uczyc z adf. adf tylko do orkiestracji, inaczej kaplica
JamesJoyce 2025-02-17 23:40:17 +4
#pasjonat15k #pasjonat15k #eldorado #it #programista15k #datascience #dataengineering #it

Odbicie już jest. Za artykuł nt ai w popularnej gazecie chcieli mi płacić ok. 500z. Obecnie i 5k przejdzie, jak ciekawy temat. Jak zrobić poprawki zdjęć lokalnie w ComfyUI - 3-6k.

Poce na tydzień za 10-40 k USD. Dobry data engineer jest królem. Data w engineer
/scientist z 10-20 książkami na ten temat jest traktowany jak pracownik innej kategorii. Odwołuje się calle gdy to nie ma, przesuwa wizyty klienta jak jest chory. Ciekawe co później będzie dotknięte paluszkiem bożym.
a5f5c1 2025-02-18 10:55:30 +3
@JamesJoyce: czy mógłbyś proszę podać listę tych 20 albo 70 książek, które uważasz za wartościowe w tych czasach zaczynając od podstaw po zaawansowane techniki? Chcę wskoczyć na stawkę 400+, by szybko spłacić ten je*any kredyt i mieć spokój ( ͡° ͜ʖ ͡°) To mógłby być w sumie osobny wpis na tagu #pasjonat15k, bo myślę, że więcej osób mogłoby skorzystać i wyjść z obecnego marazmu ( ͡° ͜ʖ ͡°)
JamesJoyce 2025-02-18 11:05:30 +3
@a5f5c1 zacznij od wymienionych artykułów https://ghost.oxen.ai/reading-list-for-andrej-karpathys-intro-to-large-language-models-video/

Wcześniej podręczniki matma, stat, prawd. etc
pokaż komentarze (12)
Mamut200 2025-01-22 17:33:51 +0
#dataengineering #programowanie #rust #python
Czy polecacie się użyć Rusta jako drugiego języka jako DE ?
Aktualnie znam Pythona i korci mnie aby zacząć się uczyć Rusta, ponieważ jest przyszłościowy i bardzo wydajny, ktoś korzysta ?
niedorzecznybubr 2025-01-22 17:38:40 +2
@Mamut200: Ja to uważam że najpierw trzeba się nauczyć C i C++ żeby rozumieć jakie problemy Rust w ogóle próbuje rozwiązywać (⌐ ͡■ ͜ʖ ͡■)
zmarnowany_czas 2025-01-22 20:50:52 +5
Ja to uważam że najpierw trzeba się nauczyć C i C++ żeby rozumieć jakie problemy Rust w ogóle próbuje rozwiązywać (⌐ ͡■ ͜ʖ ͡■)

@niedorzecznybubr: a wcześniej nauczyć się asemblera, żeby nauczyć się co C/C++ rozwiązały.
pokaż komentarze (2)
JamesJoyce 2025-01-12 14:41:45 +9
#analizadanych #dataengineering #businessintelligence #cloud #programista15k

Lektura do poduszki. Doszkalam się w teorii data engineeringu.
enten 2025-01-12 15:24:35 +15
@JamesJoyce: ku-r-wa chłopie, jest niedziela
Nie masz znajomych albo rodziny?
Czy po pracy jedyne co robisz to czytasz książki o tym jak być lepszym w pracy?
JamesJoyce 2025-01-12 16:44:27 +8
@enten: Dalej mnie obrażasz. Jestem naukowcem z doktoratem, przeszłością jako wykładowca i publikacjami. Publikuje badania i pracowałem na uczelni. Kompletnie mnie nie rozumiesz i nie znasz. A wystarczyło zapytać. Nie czytam książek naukowych/inżynieryjnych, żeby być lepszy w pracy, bo mam kompetencje na stanowiska seniorskie i wyżej. Prowadzę własne badania, niedługo składam wniosek o grant z eu.

A na przyszłość, mówienie komuś rzeczy typu "Nie jesteś artystą, nie jesteś naukowcem, nie jesteś też sportowcem. Jesteś inżynierem. Nie tworzysz rzeczy, które zachwycają ludzi i zmieniają jej historię i kulturę." może sprawić, że ten ktoś się załamie lub zgubi sens w tym, co robi.

Udam, że nie widziałem odniesienia do żony, nawet jeśli to metafora. W innym wypadku zablokowałbym Cię i stracił do Ciebie jakikolwiek szacunek, bo tylko skończony cham pozwala sobie na podobne przykłady.
pokaż komentarze (41)
chaddeveloper 2025-01-03 11:08:00 nsfw +108
Kontynuje swoją epopeję szukania pracy w IT z 5 letnim expem ( ͡° ͜ʖ ͡°)
W-------e z kołchozu
Wpis z znalezniem pracy

Tak jak obiecałem, chciałbym podzielić się swoimi doświadczeniami związanymi z poszukiwaniem pracy – jak wyglądały moje działania i na czym ostatecznie się skończyły. Przybliżę również, jakie wnioski wyciągnąłem w trakcie tego procesu.

Mój stack:

Języki programowania:
PHP, Python, JavaScript, Java – najwięcej doświadczenia mam w JavaScripcie, Pythonie i PHP. Zdarza mi się również pisać w bashu, ale tego raczej nie wliczam.

Narzędzia:

Docker
CI/CD
GraphQL
RabbitMQ
Redis (najlepiej opanowany z wymienionych)
ElasticSearch (tu czuję się najsłabiej).
Umiejętności miękkie:

Język angielski – realny poziom B2 według opinii rekruterów, zarówno polskich, jak i anglojęzycznych.
Komunikacja z klientem – umiem prowadzić konstruktywne rozmowy o tym, co powinniśmy robić, a czego unikać. Nie boję się podejmować dyskusji z Product Ownerem, cum Masterem czy innymi członkami zespołu.
Optymalizacja procesów – potrafię usprawniać spotkania, takie jak estymacje czy retrospekcje, a także konstruktywnie skrytykować podejście cum Mastera, gdy jest to potrzebne ( ͡° ͜ʖ ͡°)

Metodyki spoceńców:
DDD
CQRS
Onion Architecture

Gdzie szukałem pracy? czyjesteldorado.pl Czemu tutaj? Nie wiem, chciałem wpróbować jak to działa i działa całkiem fajnie, no i oczywiście jakieś pracuj.pl, NoFluffJobs, LinkedIn także się pojawił.

Czy wybrzydzałem? Nie, aplikowałem na dosłownie wszystko, nawet kilka aplikacji poszło na testera manualnego, PM, PO ( ͡° ͜ʖ ͡°)

Przejdźmy do mięska, czyli liczb ( ͡° ͜ʖ ͡°)
Na ponad 112 (sic! xD) wysłanych CV dostałem zaledwie 8 wiadomości zwrotnych, co nie daje nawet 10% odpowiedzi.

Z tych ośmiu:
6 odmów
Jedna oferta to ta, którą opisywałem w poprzednim wpisie z tej serii.
Drugą odrzuciłem, bo to była jakaś g---o kontraktornia, która chciała zadanie rekrutacyjne bez żadnego przedstawienia oferty. Zadanie było dość wymagające i na pewno zajęłoby mi 2–3 dni, więc... szanujmy się :)
Były też inne etapy rekrutacji, zlałem ciepłym moczem.

Co dalej robić ze swoim życiem, będąc bliżej bycia nastolatkiem niż pełnoprawnym, zakredytowanym pod korek kontraktorem B2B?
Nie mam pojęcia - mam już nieprzyjemne myśli w głowie jak myślę, że rzuciłem szkołe dla programowania.

Pierwszy plan to by pozostać w bańce IT(agresywnie odkładać kasę) widziałem ostatnio fajny wpis od @JamesJoyce i może pójdę w AI/ML/Data Science jak zwał tak zwał, ale wiążę się to z cięzką pracą - zobaczymy, chętnie się z Tobą skontaktuje na priv i przegadam parę tematów James :)
Także myślę, żeby zacząć agresywnie odkładać kasę i pójść do zawodówki na blacharza albo elektromechanika – zawsze lubiłem auta, ale poszedłem w IT.

Ewentualnie... medycyna ale nie wiem, jak się na niej utrzymam. XD

Zapraszam do dyskusji pod tym wpisem, plusujących mogę wołać jak potoczą się moje dalsze losy jeśli was to interesuje

#naukaprogramowania #programowanie #programista15k #it #pracait #nauka #chatgpt #analizadanych #dataengineering #korposwiat #java #programista25k #kryzysit #pracbaza
makamele 2025-01-03 11:11:11 +126
@chaddeveloper: a probowales byc OGARNIĘTYM seniorem?
brennt 2025-01-03 11:13:47 +71
pokaż komentarze (60)
JamesJoyce 2025-01-01 15:20:05 +251
#naukaprogramowania #programowanie #programista15k #it #pracait #nauka #chatgpt #analizadanych #dataengineering

Hej,

w nawiązaniu do postu https://wykop.pl/wpis/79482415/naukaprogramowania-programowanie-programista15k-sz
Wklejam moje przemyślenia i porady. Wyszło tego ok. 12 stron. Jeśli ktoś chciałby doc/pdf proszę o kontakt. Jako wstęp dodałem realny wstęp, który kończy się jakoś po GPT2 czy 3. "Nowe AI " wymaga osobnego dokumentu. Dodałem porady dot. wejścia w ai, pracy z ai, konwersji na data engineera, rozpoczęcia korzystania z AI czy rzeczy, które moim zdaniem będą trendować w 25, i których wypada się poduczyć. Mogłem coś pominąć, skrócić lub zapomnieć. Jestem tylko człowiekiem. Jeśli znajdziecie coś takiego, proszę o info. Pozdrawiam.

Subiektywny poradnik dot. AI, by JamesJoyce, wykop.pl

1. Książki wprowadzające do AI:

Poziom początkujący:

"Wstęp do Sztucznej Inteligencji" - Marek Flasiński
• Kompleksowe omówienie podstaw teoretycznych
• Silne podstawy matematyczne
• Używana na polskich uczelniach technicznych
"Metody i Techniki Sztucznej Inteligencji" - Leszek Rutkowski
• Dogłębna analiza algorytmów
• Mocne podstawy statystyczne
• Cytowana w polskich publikacjach naukowych
"Statistics and Machine Learning in Python" - Gaël Varoquaux
• Niezbędne, głównie statystyczne
„Podstawy Matematyki w data science” – Thomas Nield
• Niezbędne, głównie matematyczne
"Data Science od podstaw" - Joel Grus
• Solidne podstawy programowania w Pythonie
• Praktyczne przykłady implementacji algorytmów
• Wykorzystywana na kursach ML na AGH i PW

Poziom średniozaawansowany

"Hands-On Machine Learning with Scikit-Learn, Keras & TensorFlow" - Aurélien Géron – początki tworzenia ai w scikit, kerasie i tf
• Regularnie aktualizowana (ostatnie wydanie 2022)
• Używana w kursach Stanford CS229
• Praktyczne podejście z kodem i przykładami
"Python Machine Learning" - Sebastian Raschka
• Regularnie aktualizowana
• Uznana w środowisku ML
• Szczegółowe wyjaśnienia implementacji
"Artificial Intelligence: A Modern Approach" - Stuart Russell, Peter Norvig – niekoniecznie 1 do przeczytania. To klasyka dot. Klasycznego AI – opcjonalnie. Jeśli zależy Ci na czasie, zostaw na koniec.
• Standardowe wprowadzenie używane na większości uczelni
• Cytowana w ponad 170,000 publikacjach naukowych
• Najnowsze wydanie (2021) zawiera aktualny materiał o deep learning

Poziom zaawansowany

"Deep Learning" - Ian Goodfellow, Yoshua Bengio, Aaron Courville – matma w data science
• Napisana przez pionierów dziedziny
• Dostępna za darmo online: deeplearningbook.org
• "Deep Learning. Receptury" - Douwe Osinga
• Gotowe rozwiązania typowych problemów DL
• Kod w PyTorch i TensorFlow
• Przykłady z NLP i Computer Vision
• Dość trudna dla nowicjuszy
"Deep Learning with Python" - Sebastian Raschka, Vahid Mirjalili
• Kompleksowe omówienie DL w Keras/TensorFlow
• Uznana w przemyśle i cytowana w publikacjach
• Ostatnie wydanie (2022) zawiera najnowsze architektury i techniki
• Szczegółowe wyjaśnienia matematyczne i implementacyjne
Książka jest używana w kursach DL na University of Wisconsin-Madison i Michigan State University.

2. Materiały internetowe

Kursy:
• Coursera: Stanford AI/ML specializations
• Fast.ai: Praktyczne deep learning
• DeepLearning.AI: Specjalizacje od Andrew Ng
• DataCamp: Interaktywne kursy DS
Platformy praktyczne:
• Kaggle: Konkursy, datasety, notebooks
• LeetCode: Algorytmy i struktury danych
• HackerRank: SQL i programowanie
Blogi/Newsletter:
• Towards Data Science
• Papers with Code
• Sebastian Raschka Blog
• KDnuggets
• arXiv-sanity.com
Testy/Certyfikaty:
• AWS Machine Learning Specialty
• Google Professional ML Engineer
• Azure AI Engineer
• TensorFlow Developer Certificate
Społeczności:
• Reddit: r/MachineLearning, r/datascience
• Stack Overflow
• AI/ML Discord servers
• GitHub Discussions

3. Praktyka
Praktyczna ścieżka rozwoju w AI/ML:
1. Projekty własne:
• Rozpoznawanie obrazów (MNIST, CIFAR)
• Analiza sentymentu tekstu
• Predykcja szeregów czasowych
• Systemy rekomendacji
2. Open Source:
• Kontrybutowanie do scikit-learn
• Hugging Face - modele NLP
• PyTorch - implementacje modeli
• TensorFlow - tutorials
3. Realne projekty:
• Kaggle competitions
• GitHub portfolio (3-5 zaawansowanych projektów)
• MLOps pipeline
• Deployowanie modeli
4. Praktyki/Staże:
• Startupy AI
• Zespoły R&D
• Projekty badawcze
• Hackathony AI
5. Narzędzia:
• Git/GitHub
• Docker
• AWS/GCP/Azure
• MLflow/Weights & Biases
Każdy projekt powinien mieć dokumentację, testy i deployment.
4. Środowiska pracy i narzędzia

• IDE: PyCharm, VSCode, Jupyter
• Cloud: AWS SageMaker, GCP Vertex AI, Azure ML
• Monitoring: MLflow, W&B, TensorBoard
• Version Control: DVC, Git LFS
• CI/CD: GitHub Actions, Jenkins
• Containerization: Docker, Kubernetes
• Workflow: Airflow, Kubeflow
• Dashboards: Streamlit, Gradio
• Eksperymenty: Optuna, Ray Tune

5. Specjalizacje

Computer Vision:
• OpenCV, YOLO, detectron2
• Segmentacja, detekcja, klasyfikacja
• Transformers Vision
NLP:
• BERT, GPT, LLama
• Spacy, NLTK, transformers
• RAG, embeddingi
MLOps:
• CI/CD dla ML
• Monitoring modeli
• A/B testing
Time Series:
• Prophet, statsmodels
• Forecasting
• Anomaly detection
Reinforcement Learning:
• OpenAI Gym
• Deep RL
• Multi-agent systems

6. Gotowe materiały do przebranżowienia się

A) AI/ML:
• Stanford CS229: Machine Learning
• DeepLearning.AI Specialization (Coursera)
• Fast.ai Practical Deep Learning
• MIT 6.S191: Introduction to Deep Learning
• Google Machine Learning Crash Course
• CS50's Introduction to AI (Harvard)
• Berkeley CS 188: Introduction to AI
B) Data Engineer:
• Data Engineering Zoomcamp (DataTalksClub)
• Fundamentals of Data Engineering (Coursera)
• Database Engineering (Stanford Online)
• AWS Data Analytics Specialty
• GCP Data Engineer Learning Path
• Databricks Data Engineer Learning Path
• IBM Data Engineering Professional Certificate
Każda ścieżka zawiera:
• Teoria + praktyka
• Projekty do portfolio
• Certyfikaty
• Hands-on labs

7. Ogólne podstawowe ścieżki kariery

MLOps Engineer:
• Wymagania techniczne:
o CI/CD (Jenkins, GitHub Actions)
o Kubernetes, Docker
o Monitoring (Prometheus, Grafana)
o ML frameworks (TensorFlow, PyTorch)
o Cloud (AWS, GCP, Azure)
o Python, Go
• Projekty do portfolio:
o System monitoringu modeli ML
o Automatyczny pipeline retrainingu
o A/B testing framework
o Feature store implementation
AI Engineer:
• Wymagania:
o Deep Learning (PyTorch, TensorFlow)
o NLP/Computer Vision
o Distributed training
o Model optimization
o API development (FastAPI, Flask)
o Production ML systems
• Projekty:
o LLM deployment system
o Real-time CV system
o Multimodal AI application
o Custom training pipeline
Data Engineer → AI:
• Ścieżka rozwoju:
1. ML fundamentals (algorithms, math)
2. Feature engineering dla ML
3. ML pipelines i orchestration
4. Model deployment
5. ML infrastructure
• Kluczowe umiejętności:
o Spark/Hadoop
o ETL dla ML
o Feature stores
o Data validation
o ML workflow orchestration
Machine Learning Engineer:
• Wymagania:
o Solid CS/Math background
o Advanced ML/DL
o System design
o Scalable ML solutions
o Research implementation
• Specjalizacje:
o NLP Engineering
o Computer Vision Engineering
o Speech Recognition
o Reinforcement Learning
Trendy rynkowe 2024/2025:
1. LLMOps:
o Custom LLM deployment
o Prompt engineering
o RAG systems
o Fine-tuning pipelines
2. Edge AI:
o Model optimization
o Mobile deployment
o IoT integration
o Real-time processing
3. AutoML/ML Platform Engineering:
o Automated pipeline building
o Model governance
o Experiment tracking
o Resource optimization
4. Responsible AI:
o Fairness metrics
o Model explainability
o Bias detection
o Privacy-preserving ML
Jak się przygotować:
1. Podstawy:
o Python advanced
o ML fundamentals
o Cloud platforms
o System design
2. Specjalizacja:
o Wybór domeny (NLP/CV/RL)
o Głęboka znajomość frameworków
o Praktyczne projekty
o Certyfikacje
3. Praktyka:
o Open source contributions
o Kaggle competitions
o Personal projects
o Hackathons
4. Networking:
o Konferencje ML/AI
o Meetupy
o LinkedIn presence
o Tech communities
Czego szukają firmy:
1. Techniczne:
o End-to-end ML systems
o Scalable solutions
o Production experience
o Cloud expertise
2. Soft skills:
o Problem solving
o Communication
o Team collaboration
o Project management
3. Domain expertise:
o Industry knowledge
o Business understanding
o Research awareness
o Best practices
4. Proven experience:
o Portfolio projects
o GitHub activity
o Blog posts/articles
o Conference talks

8. Java/coś innego – Data Engineering

Skoro chcesz przejść z Javy do Data Engineering, to powiem Ci jak ja bym to zrobił. To świetny ruch, bo rynek mocno potrzebuje ludzi łączących solidne podstawy programowania z data skills.
Przede wszystkim, nie musisz wszystkiego się uczyć od zera - Twoje doświadczenie z Javy jest mega wartościowe. Znasz już programowanie, architekturę, pracę z bazami danych. To świetna baza.
Zacznij od Pythona - nie dlatego, że jest trudny (jest łatwiejszy od Javy), ale bo cały ekosystem data engineering jest w nim zbudowany. Weź kurs na Udemy albo DataCamp, ale szybko przechodź do praktyki.
Następnie wejdź w podstawy big data. Tu Twoja Java się świetnie przydaje - Spark ma API javowe. Postaw lokalnie Spark, pobaw się przetwarzaniem danych. Zrób potem to samo w Pythonie - zobaczysz różnice i podobieństwa.
Kolejny krok to cloud. Wybierz jedną platformę (AWS, GCP czy Azure) i skup się na jej usługach do przetwarzania danych. Zrób darmowe kursy na ich platformach. Tu ważne - nie próbuj ogarniać wszystkiego, skup się na data services.
Teraz ETL/ELT - naucz się Airflow (orchestration) i dbt (transformacje). Postaw je lokalnie, zrób kilka pipeline'ów. To będzie Twój chleb powszedni jako Data Engineer.
Równolegle rób własny projekt - najlepiej coś, co łączy streaming (Kafka), batch processing (Spark), i ładowanie do hurtowni (np. Snowflake). Wrzuć na GitHuba, opisz dokładnie w README. To będzie Twoja przepustka na rozmowy.
Co do pracy - zacznij rozmawiać z firmami, które mają i Javę, i data engineering. Często szukają właśnie ludzi do przejścia między światami. Możesz zacząć od pomocy przy data taskach w swoim zespole. Możesz też skorzystać z poleceń itd.

Nie przejmuj się, jak na początku nie będziesz wszystkiego rozumiał. Data engineering to ogromna dziedzina. Skup się na podstawach: skąd dane przychodzą, jak je przetwarzać efektywnie, gdzie je składować.
Na rozmowy o pracę przygotuj się pokazując, jak Twoje doświadczenie z Javy przekłada się na data engineering. Znasz już clean code, testowanie, CI/CD - to wszystko jest tak samo ważne w data świecie.
Co do kasy - na początek może być lekki spadek, ale średnio po roku-dwóch zarobki są wyższe niż w klasycznej Javie. Szczególnie jak dorzucisz do tego ML/AI skills.
Jakbyś potrzebował konkretnych materiałów albo pogadać o szczegółach któregoś z tematów, daj znać.
P.S. Zapisz się na DataTalksClub - masa ludzi tam przechodzi podobną ścieżkę, świetne materiały i networking.

9. Praca z/w AI

Wejście do pracy nad AI jest obecnie niemal nierealne. Praca korzystająca z AI, to jednak inna kwestia. To świetny kierunek, ale trzeba to zrobić mądrze. Zacznij od solidnych podstaw - matematyka (algebra liniowa, rachunek prawdopodobieństwa) i Python. Bez tego będzie ciężko.
Najlepiej zacznij od ML basics - scikit-learn, podstawowe algorytmy. Zrób kilka projektów z Kaggle, naucz się pracować z danymi. Nie rzucaj się od razu w deep learning.
Potem możesz iść w dwóch kierunkach:
1. ML Engineering - skupiasz się na deploymencie modeli, MLOps, skalowaniu
2. Research/Development - głębsze uczenie się algorytmów, tworzenie nowych rozwiązań
Dla ML Engineering:
• Naucz się cloud (AWS SageMaker/Vertex AI)
• Kubernetes, Docker
• MLflow, Weights & Biases
• CI/CD dla modeli
Dla Research:
• PyTorch/TensorFlow
• Papers with Code
• Implementacja najnowszych algorytmów
• Uczestnictwo w konkurach
Projekty do portfolio:
• End-to-end ML system
• Custom training pipeline
• Model deployment z monitoringiem
• Coś związanego z LLM/Computer Vision
Gdzie szukać pracy:
• Startupy AI (często łatwiej zacząć)
• Zespoły R&D w większych firmach
• AI consulting
• In-house AI teams
Najważniejsze - nie próbuj ogarniać wszystkiego naraz. Wybierz konkretną domenę (NLP/CV/RL) i się w niej specjalizuj. Buduj portfolio na GitHubie, udzielaj się w społeczności.
Dobre miejsca do nauki:
• Fast.ai
• DeepLearning.AI
• Stanford CS229/CS230
• Papers with Code
I pamiętaj - AI to nie tylko modele. Musisz rozumieć data processing, infrastructure, deployment. To całe systemy, nie tylko algorytmy.

10. Końcówka – na co się przygotować w 2025, bez względu na to, co robisz w AI.

To tylko mój subiektywny punkt widzenia na to, co będzie kluczowe w AI w 2025 roku i jak się do tego przygotować.
Przede wszystkim, cała infrastruktura LLM stanie się standardem. Musisz ogarnąć vector databases - Pinecone czy Weaviate to będzie podstawa. Zacznij od ich dokumentacji i kursów na DeepLearning.AI o RAG. Zbuduj własny system wyszukiwania z embeddings, pobaw się z różnymi modelami. To da Ci solidne podstawy.
LangChain i LlamaIndex będą wszędzie. To nie jest rocket science, ale trzeba rozumieć jak orkiestrować LLMy, jak budować efektywne chainy i zarządzać promptami. Zrób kurs LLM specialization na deeplearning.ai, potem przejdź przez LangChain handbook. Koniecznie zbuduj własny system QA z dokumentami.
MLOps to będzie must-have I bardzo hot stanowisko. Weights & Biases albo MLflow - wybierz jedno i naucz się dogłębnie. Zrób ich certyfikacje, ale co ważniejsze, zbuduj system monitoringu modeli i pipeline do automatycznego retrainingu. MLOps Zoomcamp od DataTalks.Club to świetny start.
Feature stores będą standardem w większych projektach. Feast jest open source i ma świetną dokumentację - zacznij od tego. Zbuduj prosty system feature serving, naucz się jak zarządzać features online i offline.
Edge AI będzie się rozwijać. TensorRT, TensorFlow Lite - musisz umieć optymalizować modele do urządzeń brzegowych. NVIDIA Deep Learning Institute ma świetne kursy z tego. Zbuduj aplikację CV działającą na mobile, naucz się quantization.
Co do GPU i distributed training - to będzie coraz ważniejsze. Zacznij od NVIDIA DLI courses, naucz się Horovod albo PyTorch Distributed. Musisz rozumieć jak efektywnie wykorzystywać GPU i skalować training.
Responsible AI nie będzie już opcjonalne. Google ma świetne materiały o tym. Naucz się używać narzędzi jak AI Fairness 360 czy LIME/SHAP. Zbuduj dashboard do monitorowania bias w modelach. Może to droga dla Ciebie? Może chcesz zostać etykiem AI? Takie role pojawiają się w Polsce. Ja robię to dla klienta, bo nie mają kogoś innego.

No i Agenci! Będą wszędzie. Poczytaj jak to działa, co robi itd.
Najważniejsze - nie próbuj ogarniać wszystkiego naraz. Wybierz jeden obszar, zostań w nim ekspertem, potem rozszerzaj. Dołącz do MLOps Community i DataTalks.Club, tam masa praktyków dzieli się wiedzą.
Zaplanuj sobie naukę na rok. Pierwsze 3 miesiące podstawy MLOps i cloud, kolejne 3 vector DBs i LLMs, potem Edge AI i distributed training. Ostatni kwartał na specjalizację i end-to-end projekty.
A, i koniecznie dokumentuj naukę. Wtedy realnie będziesz widział swój rozwój. To bardzo ważne!
Jakbyś potrzebował konkretnych materiałów do któregoś z tych tematów albo chciał pogadać o szczegółach, daj znać. To sporo materiału, ale krok po kroku da się to ogarnąć.
malinq 2025-01-01 15:22:36 +145
@JamesJoyce: dodaj do ulubionych

Nie otwórz nigdy więcej

gardziok 2025-01-01 16:32:16 +99
@JamesJoyce: A nie jest czasem tak, że wiele z firm/projektów, które chcą zacząć korzystać z LLMów (albo generalnie z AI) próbują na siłę znaleźć zastosowanie nowej technologii, której w rzeczywistości nie potrzebują? Blockchain miał kiedyś taką bezsensowną falę popularności
pokaż komentarze (87)
Vatrasik 2024-06-17 17:06:09 +1
#azure #dataengineering #data #programista15k

Hej, mam doswiadczenie poltora roku jako Analityk Danych (glownie PowerBI i SQL, troche pythona).

Chcialbym sie przebranzowic na Inzyniera Danych (Data Engineer lepiej brzmi).
Wybralem sobie jako stack Azure i zaczalem robic DP-203.

Teraz pytanie - czy ten certyfikat ma jakies znaczenie na polskim rynku?

Czy zatrudnia sie w PL na te pozycje osoby przebranzawiajace sie z Analityki?
szmichal 2024-06-17 17:08:55 +1
@Vatrasik: Fabrica sie ucz
ch1nczyk 2024-06-17 17:17:25 +1
@Vatrasik: Certyfikat sie liczy, aczkolwiek to nie jest czerwony dywan to zatrudnienia - imo warto. Na rynku brakuje doswiadczonych DE wiec jako osoba z odpowiednim mysleniem o danych i dobrym SQL masz duze szanse na wejscie.
pokaż komentarze (23)
Schizotypoidal 2024-05-07 21:36:34 +4
#dataengineering #datascience #programowanie #programista15k
Jak se pomyślę, że ktoś udaje inżyniera od dat, to mnie śmiech bierze. Nyga co ja nie umiem z kalendarza w telefonie korzystać? Narzędzia i technologie? Nyga mi wystarczy kalendarz Google, kalendarz w kuchni i ewentualnie harmonogram na timsie. Gdzie tam niby potrzeba inżyniera?
peoplearestrange 2024-05-07 22:18:55 +1
@Schizotypoidal: jako inżynier od dat konwertuje date w formacie US do tego europejskiego i vice versa, 5 lat studiuw i 3 lata ekspa
blehblehbleh 2024-04-29 13:44:29 +2
Tak z ciekawości, w wąsko pojętej inżynierii danych (czyli nie data science, nie analiza danych, tylko Big Data, ETLe, Sparki, Kafki, streamowanie itp.) też jest lipa z ofertami? Pytam, bo wypadłem ze śledzenia rynku pracy, stawki w zasadzie są te same co były, większość ofert jak było, tak jest remote, więc wydaje się, że jest dużo lepiej niż w reszcie specjalizacji. Nawet wydaje mi się, że jest więcej ofert na entry-level, czego w czasach jak zaczynałem w tej dziedzinie (okolice 2016-2017) nie było i trzeba się było wkręcić przypadkiem w tego typu projekty.

#bigdata #pracait #programowanie #dataengineering
Milo900 2024-04-29 13:47:15 +0
@blehblehbleh nie siedze w tej dziedzinie ale sa duze glosy ze te oferty są, ale w wiekszosci fantomowe czyli stucznie istnieja ale bardzo slaby odzew i dolne stawki z widelek
arysto2011 2024-04-29 13:50:53 +1
też jest lipa z ofertami?

@blehblehbleh: Jest ciut gorzej niż było jeszcze rok temu. Ostatnio zmieniałem robotę i na trzy rozmowy miałem dwie oferty a dwie kolejne rozmowy urwały się w trakcie z powodu znalezienia już kogoś innego. Finalnie 2/5. Rok temu było 3-4/5
pokaż komentarze (2)
pupiIlos 2024-04-05 22:59:54 +0
Siema, orientuje się ktoś jaki serwer poleasingowy do 3k dobrać sobie do laba pod wirtualizację większej ilości hostów?
Chciałbym żeby serwer miał co najmniej 128GB, poczytałem trochę i dobrze żeby procki były intelowe bo obrazy Cisco podobno się gryzą z AMD.
Generalnie zależy mi na tworzeniu labow z obrazami switchow Cisco na platformie CML, chociaż gns3 albo eve-ng tez wchodzą w grę.
Sam lab jest w celu nauki pod ccnp dccor.
Niestety kiepsko się znam na wydajności serwerów w zależności od ich parametrów…

#ccnp #dell #ccie #ccna #siecikomputerowe #dataengineering
szczebrzeszynek 2024-04-10 16:33:15 +0
@pupiIlos też czegoś szukam pod laby, jakbyś coś znalazł daj znać pls
smalbear 2023-12-29 14:30:39 +1
#python #programowanie #dataengineering

Hej wszystkim, na codzień używam pythona ale do #datascience w pracy.

Chciałbym postawić sobie dwa dashbordy/raporty dla samego siebie. Z programistycznego punktu widzenia wiem dokładnie co chce zrobić i co ma być efektem końcowym. To czego nie wiem w to jaki sposób to zrobić bo w pracy dodaje nowe procesy na #airflow jednak nigdy nie stawiałem takiego czegoś u siebie (mam kompa z Windowsem więc nie wiem czy jest to możliwe) a może jakieś zamienniki Airflow.

Może ktoś umiałby doradzić w jaki sposób stworzyć taki proces? Dodatkowo czy mógłbym to hostować na swoim kompie czy potrzebuje jakieś zewnętrznej maszyny? W przyszłości chciałbym się pobawić z danymi z czujnikami temperatury, wilgotności ect. ( #arduino czy #raspberrypi).

Poproszę o każdą poradę jak to zrobić najbardziej sensownie.
c.....s 2023-12-29 14:35:08 +2
@smalbear: ale airflow to praktycznie narzędzie to schedulowania jobów. Napisałeś tak ogólnie, że nikt nie wie o co chodzi.
arysto2011 2023-12-29 14:45:35 +3
@smalbear: Streamlit, dashly, albo cos bardziej zlozonego typu kibana
pokaż komentarze (14)
mirko_anonim 2023-12-26 20:01:58 +0
✨️ Obserwuj #mirkoanonim
Kto zarobi lepiej w Polsce - data engineer z ogarnietym cloudem czy konsultant SAP (w tym wariant z podskillowanym niemieckim)?

Warto sie wgryzac w SAPa majac juz ogarnieta fuche jako programista/data engineer?
#sap #dataengineering #programista15k #pracait



─────────────────────

· Akcje: Odpowiedz anonimowo · Więcej szczegółów
· Zaakceptował: RamtamtamSi
· Autor wpisu pozostał anonimowy dzięki Mirko Anonim

kobrys13 2023-12-26 20:06:57 +0
@mirko_anonim: Z tego co kojarzę po ludziach, których znam w SAPie nie zarobisz jeśli nie jesteś gotowy być w podróży większość czasu.
programista15cm 2023-12-26 21:50:13 +1
Przecież data engineer zarabia 600f day na remote w UK. Wiem bo jestem i się przenoszę niedługo
pokaż komentarze (4)
Tomz 2023-11-28 13:55:19 +1
Cześć, pytanko do odbiorców tagów. Macie jakieś lepsze rozwiązanie do automatycznego eksportu zapytania do .csv w sql server? Obecnie używamy do tego procedury, która odpowaida ze zwrócenie rezultatu zapytania, eksportujemy rezultat do .csv używając bcp, potem taki wyeksportowany plik jest wysyłany do dostawcy używając sp_send_dbmail. Rozwiązanie wydaje mi się mocno przestarzałe ale taki standard obecnie jest w firmie i szukam bardziej nowczoesnego rozwiązania (eksport do pliku).
#dataengineering #businessintelligence #sql
ch1nczyk 2023-11-28 14:01:33 +2
@Tomz: Z samego SQL Servera to nie wiem czy cos duzo nowoczesniejszego mozna zrobic.

Co mozna zrobic to oczywiscie do spolki z jakims orchestratorem (Azure Data Factory, Airflow i inne podobne) mozesz zbudowac prosty pipeline ktory bedzie querowal baze wg potrzeb, eksportowal to do dowolnego formatu (tu mozna zrobic np. parquet, ale zalezy jakie sa wymagania dostawcy) no i potem kwestia dostawy - mozna to dalej wysylac mailem, mozna zrobic upload na (S)FTP / Blob store czy jeszcze w inne bardziej egzotyczne miejsca.

Pytanie glowne jest takie - co w obecnym rozwiazaniu dziala zle / powoli / drogo, i jakie sa mozliwosci dostawcy na zmiane sposobu otrzymywania danych.
przecietnyczlowiek 2023-11-28 21:35:02 +2
@Tomz: no jakaś robota to zawsze, ale jeśli to tylko input to query z procedury, a output plik csv to dałoby się to zrobić elegancko i sprawnie for eachem ze zmiennymi, które pobieralbys np. z tabeli/Excela (ścieżka pliku, nazwa procedury).
pokaż komentarze (3)