پیشنهاد فرادرس

آموزش Apache Spark با Scala - یادگیری Spark از Big Data Guru

دسته بندی ها: آموزش آپاچی اسپارک (Apache Spark) ، پایگاه داده ، آموزش های Packtpub ، تحلیل داده (Data Analysis) ، آموزش اسکالا (Scala) ، کلان داده (Big Data)

این دوره مبانی Apache Spark با Scala را پوشش می دهد و تمام نکات مورد نیاز برای یادگیری ایجاد و توسعه اپلیکیشن Spark با  اسکالا را آموزش می دهد. در این دوره با  Apache Spark، تحلیل کلان داده، استفاده از آپاچی اسپارک برای خط لوله پردازش کلان داده و اپلیکیشن های تحلیل داده، نحوه در نظر گرفتن مشکلات تحلیل دده به عنوان مشکلات Spark، جمع آوری نگارخانه های وب آپاچی ناسا از منابع مختلف، درآمد توسعه دهندگان در سراسر دنیا، تجزیه و تحلیل نحوه ساخت فضاهای سازنده در مناطق مختلف در بریتانیا و غیره آشنا می شوید. این دوره با Scala تدریس می شود. Scala نسل بعدی زبان برنامه نویسی برای برنامه نویسی تابعی است که در حال افزایش است و یکی از محبوب ترین زبان ها در صنعت برای نوشتن برنامه های Spark می باشد. پس با این دوره نوشتن برنامه های Spark را با اسکالا بیاموزید تا مدل سازی مشکلات کلان داده امروزی را انجام دهید.

سرفصل:

  • شروع کار با Apache Spark
  • معرفی دوره
  • معرفی Spark
  • نصب Java و Git
  • راه اندازی پروژه Spark با IntelliJ IDEA
  • اجرای اولین کار Apache Spark
  • عیب یابی - اجرای اولین کار Apache Spark
  • RDD
  • مبانی RDD در  Apache Spark
  • ایجاد RDD
  • Map و Filter Transformation در Apache Spark
  • راه حل Airports با Latitude Problem
  • تبدیل FlatMap در Spark Apache
  • تنظیم عملیات در Apache Spark
  • راه حل برای مشکل مشابه میزبان
  • عملیات در Apache Spark
  • حل مسئله تعداد اعداد
  • جنبه های مهم در مورد RDD
  • خلاصه ای از عملیات RDD در Spark Apache
  • ذخیره و پایداری در Spark Apache
  • معماری Spark و کامپوننت ها
  • معماری Spark
  • کامپوننت های Spark
  • Pair RDD در Apache Spark
  • معرفی Pair RDD در Spark
  • ایجاد Pair RDDs در Spark
  • Filter و MapValue Transformations در Pair RDD
  • کاهش با Key Aggregation در Apache Spark
  • راه حل نمونه برای مشکل Average House
  • GroupBy Key Transformation در  Spark
  • SortBy Key Transformation در Spark
  • راه حل نمونه برای مشکل شمارش کلمه ذخیره شده
  • Data Partitioning در Apache Spark
  • پیوستن به عملیات در Spark
  • عنوان پیشرفته اسپارک
  • Accumulators
  • راه حل در StackOverflow
  • متغیرهای Broadcast
  • Apache Spark SQL
  • معرفی Apache Spark SQL
  • Spark SQL
  • مجموعه داده تایپ شده
  • استفاده از مجموعه داده یا RDD
  • تبدیل داده ها و RDD
  • تنظیم عملکرد SQL Spark
  • اجرای Spark در خوشه
  • مقدمه ای بر اجرای Spark در یک خوشه
  • Package Spark Application و استفاده از  spark-submit
  • اجرای برنامه Spark در خوشه EMR آمازون
آیا این نوشته را دوست داشتید؟
Apache Spark with Scala - Learn Spark from a Big Data Guru [Video] Publisher:Packtpub Author:James Lee Duration:3 hours and 16 minutes

Learn Apache Spark and Scala by 12+ hands-on examples of analyzing big data
This course covers all the fundamentals of Apache Spark with Scala and teaches you everything you need to know about developing Spark applications with Scala. At the end of this course, you will gain in-depth knowledge about Apache Spark and general big data analysis and manipulations skills to help your company to adapt Apache Spark for building a big data processing pipeline and data analytics applications. This course covers 10+ hands-on big data examples. You will learn valuable knowledge about how to frame data analysis problems as Spark problems. Together we will learn examples such as aggregating NASA Apache web logs from different sources; we will explore the price trend by looking at the real estate data in California; we will write Spark applications to find out the median salary of developers in different countries through the Stack Overflow survey data; we will develop a system to analyze how maker spaces are distributed across different regions in the United Kingdom, and much, much more. This course is taught in Scala. Scala is the next generation programming language for functional programming that is growing in popularity and it is one of the most widely used languages in the industry to write Spark programs. Let's learn how to write Spark programs with Scala to model big data problems today!
Style and Approach
This course covers 10+ hands-on big data examples involving Apache Spark. You will learn valuable knowledge about how to frame data analysis problems as Scala Spark problems.
Released: Wednesday, April 11, 2018
Get Started with Apache Spark
Course Overview
Introduction to Spark
Install Java and Git
Set up Spark project with IntelliJ IDEA
Run our first Apache Spark job
Trouble Shooting: Run our first Apache Spark job
RDD
RDD Basics in Apache Spark
Create RDDs
Map and Filter Transformation in Apache Spark
Solution to Airports by Latitude Problem
FlatMap Transformation in Apache Spark
Set Operation in Apache Spark
Solution for the Same Hosts Problem
Actions in Apache Spark
Solution to Sum of Numbers Problem
Important Aspects about RDD
Summary of RDD Operations in Apache Spark
Caching and Persistence in Apache Spark
Spark Architecture and Components
Spark Architecture
Spark Components
Pair RDD in Apache Spark
Introduction to Pair RDD in Spark
Create Pair RDDs in Spark
Filter and MapValue Transformations on Pair RDD
Reduce By Key Aggregation in Apache Spark
Sample solution for the Average House problem
GroupBy Key Transformation in Spark
SortBy Key Transformation in Spark
Sample Solution for the Sorted Word Count Problem
Data Partitioning in Apache Spark
Join Operations in Spark
Advanced Spark Topic
Accumulators
Solution to StackOverflow Survey Follow-up Problem
Broadcast Variables
Apache Spark SQL
Introduction to Apache Spark SQL
Spark SQL in Action
Spark SQL practice: House Price Problem
Spark SQL Joins
Strongly Typed Dataset
Use Dataset or RDD
Dataset and RDD Conversion
Performance Tuning of Spark SQL
Running Spark in a Cluster
Introduction to Running Spark in a Cluster
Package Spark Application and Use spark-submit
Run Spark Application on Amazon EMR (Elastic MapReduce) cluster

پیشنهاد فرادرس