Sprawdź zawód

Dane Ścieżka zawodowa

Inżynier jakości danych — Data Quality Engineer

Pisze automatyczne kontrole dla danych po przetworzeniu. Gdy kontrola nie przechodzi, pomaga ustalić etap błędu i zapobiega użyciu niepełnego wyniku w raportach.

Praca w trzech krokach
  1. Ustal regułę i miejsce
  2. Zobacz wyjątek w danych
  3. Sprawdź wynik i zgłoś wpływ

Na czym polega praca?

Ustal regułę i miejsce
Wskaż model, etap i oczekiwane zachowanie po błędzie.
Zobacz wyjątek w danych
Odszukaj wiersze i odtwórz błąd na małym zestawie.
Sprawdź wynik i zgłoś wpływ
Potwierdź działanie kontroli i uzgodnij status dalszej publikacji.

Z jakich narzędzi korzystasz?

Przykładowe programy, dokumenty i wyposażenie. Konkretny zestaw zależy od miejsca pracy.

SQL
Znajdź wiersze z pustym kluczem lub brakującym dopasowaniem.
dbt
Dodaj kontrolę obecności, relacji i unikalności w odpowiednich modelach.
Dziennik zasileń
Ustal czas aktualizacji źródła i sprawdź odświeżony wynik.

Jakich umiejętności potrzebujesz?

Umiejętności twarde

  • SQL i automatyczne sprawdzanie danych
  • Reguły dbt
  • Rozpoznawanie problemu w potoku
  • Ustalanie skutków błędów i zachowania raportu

Na początek: Narysuj nagłówki obu tabel i wskaż pole powiązania.

Umiejętności miękkie

Przećwicz, jak powiedzieć to w pracy:

  • „Zamówienie O-7 ma kod C-24, ale nie znajduję go w bieżącej tabeli klientów.”
  • „Kontrola ma zwrócić wiersze z brakującym powiązaniem. Sprawdzę ją na poprawnym i błędnym przykładzie.”

Program kursu

Zacznij od pierwszej lekcji lub wybierz temat. W każdym rozdziale znajdziesz przykład, schemat i ćwiczenie.

Kompendium zawodu

Pojęcia w pracy

Potok danych
Kolejne czynności pobrania, przetworzenia i udostępnienia danych.
Klucz rekordu
Pole lub pola odróżniające wiersz od innych w danym zakresie.
Reguła jakości
Warunek, który dane muszą spełnić, aby nadawały się do uzgodnionego użycia.
Reguła relacji
Sprawdzenie, czy identyfikator ma odpowiednik w związanej tabeli.
Przypadek kontrolny
Mały zestaw danych i oczekiwany wynik, który pokazuje działanie reguły.

Zwroty w typowych sytuacjach

„Zamówienie O-7 ma kod C-24, ale nie znajduję go w bieżącej tabeli klientów.”
Wskazuje dokładną niespójność.
„Kontrola ma zwrócić wiersze z brakującym powiązaniem. Sprawdzę ją na poprawnym i błędnym przykładzie.”
Opisuje warunek i sposób oceny działania.
„Raport pozostaje na ostatnim zatwierdzonym stanie, dopóki właściciel danych nie rozstrzygnie problemu.”
Podaje status użycia wyniku.

Który warunek wykryje każdy z błędów?

Wiersz albo źródłoStanReguła
O-7, C-24Brakuje odnośnego klientaSprawdź relację zamówień do klientów.
O-8Pusty identyfikator klientaSprawdź obecność klucza.
Tabela klientów, C-24Dwa wpisy po aktualizacjiSprawdź unikalność przed połączeniem.

Dwie pierwsze reguły wykrywają inne przypadki. Osobna kontrola tabeli klientów pozwala uniknąć powielania zamówienia po połączeniu.

SQL · znajdź zamówienia, których klienta brakuje

WITH orders(order_id, customer_id) AS (
  VALUES ('O-6', 'C-23'), ('O-7', 'C-24'), ('O-8', NULL)
), customers(customer_id) AS (
  VALUES ('C-23')
)
SELECT o.order_id, o.customer_id
FROM orders AS o
LEFT JOIN customers AS c ON c.customer_id = o.customer_id
WHERE o.customer_id IS NOT NULL AND c.customer_id IS NULL;

Sprawdź się w tej sytuacji

Opisz, które wiersze mają wrócić w każdym wyjątku, a potem sprawdź wynik na małym zestawie.

dbt · reguły obecności, unikalności i relacji

Projekt praktyczny PRO

Raport widzi zakup O-7 bez odpowiadającego klienta

Po dostarczeniu tabeli klientów C-24 występuje w niej dwa razy i połączenie powiela sprzedaż. Dodaj regułę unikalności, wskaż wyniki dla dwóch stanów i ustal warunki bezpiecznej publikacji.

Co przygotujesz? Notatnik SQL i małe tabele z opisem reguł dbt, wynikami dla trzech błędów oraz komunikatem o gotowości raportu.

  1. Przygotuj wersję wyjściową
  2. Przepracuj zmianę
  3. Oddaj projekt do rozmowy

14,90 zł · jednorazowo za 30 dni dostępu.

Zobacz pakiet PRO →

Warto wiedzieć przed pierwszym dniem

Laptop z wykresami i danymi
Ilustracja branży · Zdjęcie Daniil Komov / Unsplash

Mowa ciała w pracy

Wskaż liczbę, którą właśnie omawiasz. Potem zwróć się do słuchacza i daj mu czas na porównanie jej z resztą tabeli.

Źródła do nauki dbt · reguły obecności, unikalności i relacji · dbt · własne reguły i stopień ważności

Przećwicz rozmowę kwalifikacyjną

Odpowiedz na głos, a potem rozwiń przykładową odpowiedź.

Jak sprawdzisz brak klienta bez ukrycia zamówienia?

Porównam klucze zamówień i klientów oraz pokażę wyjątki, np. przez LEFT JOIN i filtr na brak dopasowania. Puste klucze sprawdzę oddzielnie.

Co zrobisz, gdy tabela klientów przychodzi z opóźnieniem?

Sprawdzę czasy i zakres obu zasileń. Uzgodnię warunek gotowości oraz status raportu. Bieżący stan pokażę odbiorcom wraz z zakresem.

Zadanie rekrutacyjne

Raport sprzedaży pokazuje zamówienie O-7 z kodem klienta C-24. W bieżącej tabeli klientów nie ma C-24. Pokaż warunek, który wykryje problem, mały zestaw do sprawdzenia oraz komunikat dla właściciela raportu.

Plan pracy nad zadaniem
  1. Ustal regułę i miejsce
  2. Zobacz wyjątek w danych
  3. Sprawdź wynik i zgłoś wpływ
Pokaż kryteria wykonania
  • Sprawdzasz obecność i dopasowanie klucza jako osobne reguły.
  • Masz po jednym przykładzie poprawnym i błędnym z wyjaśnieniem wyniku.
  • Podajesz, którego wyniku dotyczy problem i co uruchomi ponowną kontrolę.

Pierwszy dzień w pracy

Otwórz plan potoku, dziennik uruchomień i przykład reguły dbt. Ustal, kto przejmuje powiadomienie i kiedy wyjątek wstrzymuje publikację.

Widełki wynagrodzeń

Inżynier jakości danych — Data Quality Engineer · Przykład oferty dla specjalisty · pełny etat · UoP · miesięcznie brutto

Kraków lub zdalnie
12 000–22 000 zł

Źródło Kingfisher · ogłoszenie dla Data Quality Engineer

Inne kursy z tej branży

Wszystkie kursy w branży: Dane i analityka →