Konsultant wdrożeniowiec o profilu Data Engineer to specjalista, który łączy zaawansowane kompetencje techniczne z umiejętnością analizy danych i podstawową wiedzą z zakresu Data Science. Odpowiada za projektowanie, wdrażanie oraz utrzymanie nowoczesnych rozwiązań w obszarze Big Data, architektury danych i platform analitycznych, wspierając klientów w wykorzystaniu danych do podejmowania decyzji biznesowych.
Lubisz porządkować dane, projektować wydajne pipeline’y i tworzyć niezawodne środowiska analityczne? Dołącz do DataServe jako Data Engineer i pracuj przy projektach, które wspierają podejmowanie decyzji opartych na danych. Wykorzystuj nowoczesne narzędzia, rozwiązania chmurowe i technologie Big Data w praktyce biznesowej.
Oczekujemy od Ciebie:
minimum 3-5 lat doświadczenia w obszarze inżynierii danych, wdrożeń Big Data lub analizy danych;
doświadczeniaw pracy z narzędziami i technologiami Big Data oraz w realizacji projektów analitycznych dla danych.
Szczegółowe wymagania:
ekspertyza w technologii Big Data i ekosystemach takich jak Hadoop oraz Apache Spark;
projektowanie i wdrażanie skalowalnych rozwiązań Big Data dla dużych zbiorów danych;
dobór technologii i narzędzi zgodnych z potrzebami biznesowymi oraz technicznymi (Modern Data Analytics Platform, Query Engines, technologie dla Data Lake, narzędzia chmurowe).
znajomość podstaw projektowania i zarządzania hurtowniami danych (Data Warehouse);
doświadczenie w implementacji i utrzymaniu środowisk Data Lake i Data Lakehouse.
Bazy danych
zaawansowana znajomość przynajmniej jednej technologii bazodanowej w zastosowaniach BigData (od 1TB+) takich jak: PostgreSQL, Vertica, Snowflake, MariaDB, Oracle, SQL Server;
umiejętność optymalizacji zapytań, tuning wydajności oraz praca z dużymi zbiorami danych.
znajomość narzędzi ETL/ELT i orkiestracji danych takich jak: Airbyte, dbt (data build tool), Apache Airflow;
praktyczna wiedza w zakresie automatyzacji procesów integracji i przetwarzania danych.
Konfiguracja i administracja
praktyczna wiedza w zakresie konfiguracji i administracji ekosystemów Hadoop oraz systemów Object Store (np. VAST, MinIO).
Rozwiązania typu Query Engine
znajomość przynajmniej jednej technologii platform takich jak: Dremio, Databricks, Denodo, Starburst.
Analiza danych i podstawy Data Science
podstawowa wiedza z zakresu Data Science: znajomość metod eksploracyjnej analizy danych (EDA); podstawowe techniki modelowania danych i ich zastosowanie w biznesie; umiejętność interpretacji wyników analizy i współpracy z zespołami analitycznymi.
praktyczne doświadczenie w analizie danych za pomocą Python (biblioteki takie jak Pandas, NumPy, Matplotlib, Seaborn).
Programowanie i SQL
zaawansowana znajomość języka Python zorientowana na przetwarzanie i analizę danych;
zaawansowana znajomość SQL: tworzenie zaawansowanych zapytań, analiza danych ich optymalizacja.
Mile widziane kwalifikacje i doświadczenie to:
znajomość platformy HPE Ezmeral lub/i technologii związanych z VAST Data;
doświadczenie z narzędziami chmurowymi (AWS, Azure, GCP) w kontekście przetwarzania danych;
doświadczenie w pracy z Kubernetes (K8s) w kontekście wdrażania i zarządzania aplikacjami danych.
Oczekiwane cechy osobowościowe:
analityczne myślenie i kreatywne podejście do rozwiązywania problemów;
umiejętności prezentacji zagadnień technicznych dla zespołów technicznych i nietechnicznych;
umiejętność współpracy z różnorodnymi zespołami, w tym z analitykami i Data Scientistami;
zdolność do jasnej komunikacji z klientami i przedstawiania wyników analizy danych w zrozumiały sposób;
otwartość na ciągłe uczenie się i rozwijanie nowych umiejętności.
W zamian za Twoje zaangażowanie oferujemy:
udział w wyjątkowo ciekawych i ambitnych projektach z obszaru Machine Learning rozwijających nasze produkty oraz realizowanych dla firm stawiających na najnowsze technologie;
... data ingestion and transformation processes., Work with cloud-based data platforms and Databricks., Integrate data from multiple operational systems., Build data products that support aviation operations and decision-making., Work with APIs and data exchange services., Collaborate with data providers, engineers and business ...
... datasets, and data structures from legacy warehouses to the new platform - Document data flows, technical solutions, incidents, and operational procedures - Maintain data dictionaries and runbooks to ensure effective knowledge sharing and platform support - Collaborate closely with the Senior Data Engineer, Head of Data & Analytics, ...
- Minimum 5 years of commercial experience in data engineering with Google Cloud - Google Cloud Professional Data Engineer certification (expected or to be obtained within the first month of work). - Advanced knowledge of the Google Cloud ecosystem: BigQuery, Cloud Storage, Pub/Sub, BigTable, Dataflow, Dataproc, Cloud Functions/Run, ...
... maintaining scalable data processing pipelines using SQL, Python, and Apache Spark / PySpark., Working with raw data and designing methods for its integration into the data platform., Developing CI/CD pipelines for data engineering solutions., Creating and maintaining Infrastructure as Code solutions., Integrating the data platform ...
About you - 3+ years of hands-on experience in Data Engineering or Software Engineering. - Degree in computer science, engineering or equivalent technical field experience. - Proficient in cloud-based data processing and storage technologies like Databricks, Spark, Airflow. - Fluent in SQL and proficient in at least one ...
Your responsibilities - Design, develop, and maintain scalable batch and real-time data pipelines using modern data engineering technologies. - Build and optimize data processing solutions leveraging Apache Spark, Kafka, and distributed computing frameworks. - Develop and manage data warehousing solutions using Apache Hive ...
... środowiska bazodanowego Oracle do Google Cloud Platform, z wykorzystaniem BigQuery, Pub/Sub oraz Cloud Storage, - projektowanie, implementację i rozwój rozwiązań Data Engineering na platformie GCP, w szczególności z wykorzystaniem BigQuery, Cloud Storage i Pub/Sub, - migrację oraz przebudowę procesów przetwarzania i zasilania ...
... services to deliver ultra-low latency, high-throughput data solutions - • Build aggregation layers and pipelines consumed by APIs, AI/ML models, and dashboards - - Data Engineering & Integration - • Expose time-series and analytics data through API gateways and integration layers - • Collaborate closely with data science and ...
... integracyjne, plikowe, API oraz strumieniowe, m.in. Kafka - POC nowych narzędzi i technologii do potencjalnego wdrożenia w HD PZU, w tym rozwiązań SAS Viya, Oracle Exadata, Microsoft Fabric, Power BI oraz narzędzi automatyzujących pracę zespołu - Budowa narzędzi monitorujących aktywność użytkowników HD oraz wspierających kontrolę ...
Your responsibilities - Experience in data science, engineering, and data analysis. - Experience leveraging SQL and Python (dataframes) for data pipeline orchestration, file ingestion, data cleansing, data joining and relationships, data aggregation, data manipulation, and data analysis to create meaningful informed results ...
... and follow engineering best practices. - Support data workflow automation and CI/CD processes using orchestration tools (e.g. Airflow, Prefect). - Use modern data platforms such as Databricks in production or development environments. Your profile - Experience as a Data Engineer with strong practical skills in data processing. ...