Što je iskra emitiranje?
Što je iskra emitiranje?

Video: Što je iskra emitiranje?

Video: Što je iskra emitiranje?
Video: Tuča Novi Pazar www sandzaklive rs 2024, Studeni
Anonim

Emitiranje varijable u Apacheu Iskra je mehanizam za dijeljenje varijabli među izvršiteljima koji su namijenjeni samo za čitanje. Bez emitirati varijable te bi se varijable isporučile svakom izvršiocu za svaku transformaciju i radnju, a to može uzrokovati opterećenje mreže.

Isto tako, ljudi pitaju, kada trebam emitirati iskru?

Emitiranje varijable se uglavnom koriste kada zadaci u više faza zahtijevaju iste podatke ili kada je potrebno predmemoriranje podataka u deserializiranom obliku. Emitiranje varijable se kreiraju pomoću varijable v pozivanjem SparkContext.

Također, što su akumulatori i emitirane varijable u sparku? Iskra podržava dvije vrste zajedničkog varijable : emitirane varijable , koji se može koristiti za keširanje vrijednosti u memoriji na svim čvorovima, i akumulatori , koji su varijable koji se samo "zbrajaju", kao što su brojači i zbrojevi.

S obzirom na to, što je akumulator iskri?

Akumulatori su varijable koje se samo "dodaju" kroz asocijativnu operaciju i stoga se mogu učinkovito podržavati paralelno. Mogu se koristiti za implementaciju brojača (kao u MapReduce) ili zbroja. Iskra izvorno podržava akumulatori numeričkih tipova, a programeri mogu dodati podršku za nove tipove.

Kako mogu ažurirati svoju varijablu emitiranja u sparku?

  1. Premjestite traženje referentnih podataka u forEachPartition ili forEachRdd tako da se u potpunosti nalazi na radnicima.
  2. Ponovno pokrenite Spark Context svaki put kada se refdata promijeni, s novom Broadcast varijablom.

Preporučeni: