Secara sederhana Data Engineer adalah sebuah profesi membangun wadah saluran infrastruktur besar untuk data yang besar. Tugasnya mengembangkan, membangun, menguji dan memelihara arsitektur seperti database dan sistem pemrosesan data skala besar. Kumulan informasi yang disaring oleh sistem, seorang Data engineer dapat menarik data set yang relevan untuk di analisis.
Tanggung jawab Data Engineer
- Merancang, membangun, menginstal, menguji dan memelihara sistem manajemen data yang sangat skalabel
- Memastikan sistem memenuhi persyaratan bisnis dan praktik industri
- Membangun kinerja algoritma, prototipe, model prediktif
- Meneliti Peluang untuk akuisisi data dan penggunaan riset baru untuk data yang ada
- Mengembangkan proses data set untuk pemodelan data, penambangan dan produksi
- Mengintegrasikan teknologi manajemen data baru dan alat rekayasa perangkat lunak ke dalam struktur yang ada
- Membuat komponen perangkat lunak khusus (misalnya UDF khusus) dan aplikasi analitik
- Menggunakan berbagai bahasa dan alat (misalnya bahasa scripting) dan update disaster recovery
- Merekomendasikan cara untuk meningkatkan keandalan, efisiensi, dan kualitas data
- Berkolaborasi dengan arsitek data, pemodel dan anggota tim TI tentang sasaran proyek
Cara Menjadi Data Engineer
- Memiliki kemampuan dalam bidang ilmu komputer, teknik, matematika terapan, fisika atau statistik bidang terkait.
- Memiliki Keahlian teknis sebagai data Engineer
- Statistical analysis and modeling
- Database architectures
- Hadoop-based technologies (e.g. MapReduce, Hive and Pig)
- SQL-based technologies (e.g. PostgreSQL and MySQL)
- NoSQL technologies (e.g. Cassandra and MongoDB)
- Data modeling tools (e.g. ERWin, Enterprise Architect and Visio)
- Python, C/C++ Java, Perl
- MatLab, SAS, R
- Data warehousing solutions
- Predictive modeling, NLP and text analysis
- Machine learning
- Data mining
- UNIX, Linux, Solaris and MS Windows
Untuk sertifikasi kompetensi di dalam bidang ke"data"an misalnya, Microsoft, IBM, Cloudera, dll.)
Semoga bermanfaat, silahkan berbagi....
0 Response to "Data Engineer"
Posting Komentar