Sadržaj:

Kako mogu poboljšati svoj sqoop učinak?
Kako mogu poboljšati svoj sqoop učinak?

Video: Kako mogu poboljšati svoj sqoop učinak?

Video: Kako mogu poboljšati svoj sqoop učinak?
Video: Как установить Hadoop в Windows 2024, Studeni
Anonim

Za optimizaciju izvođenje , postavljeno the broj zadataka mapiranja na vrijednost nižu od the maksimalan broj veza koji the baze podataka podržava. Kontrolni the količina paralelizma koja Sqoop koristit će se za prijenos podataka je the glavni način kontrole the opterećenje na tvoj baza podataka.

Shodno tome, što se događa ako sqoop ne uspije između procesa?

Tipičan Sqoop posao koji unosi podatke iz izvorne baze podataka u HDFS kopirat će podatke u ciljni direktorij. Kopirana datoteka bit će izbrisana ako sqoop ne uspije bez dovršavanja.

Netko se također može pitati, kako postići paralelizam u sqoopu? Kontrolni Paralelizam . Sqoop paralelno uvozi podatke iz većine izvora baze podataka. Možete odrediti broj zadataka mapiranja (paralelnih procesa) koji će se koristiti za izvođenje uvoza pomoću argumenta -m ili --num-mappers. Svaki od ovih argumenata ima cjelobrojnu vrijednost koja odgovara stupnju paralelizam zaposliti

Posljedično, kako mogu poboljšati izvedbu upita Hive?

U nastavku je popis praksi koje možemo slijediti za optimizaciju upita Hive

  1. Omogući kompresiju u košnici.
  2. Optimizirajte spojeve.
  3. Izbjegavajte globalno razvrstavanje u košnici.
  4. Omogućite Tez Execution Engine.
  5. Optimiziraj LIMIT operator.
  6. Omogući paralelno izvođenje.
  7. Omogućite Mapreduce strogi način rada.
  8. Pojedinačno smanjenje za više grupa BY.

Kako funkcionira sqoop split?

Može se koristiti za poboljšanje performansi uvoza postizanjem većeg paralelizma. Sqoop stvara cijepa se na temelju vrijednosti u određenom stupcu tablice koji je specificiran s -- podjela -od strane korisnika putem naredbe import. Ako nije dostupan, primarni ključ ulazne tablice koristi se za kreiranje cijepa se.

Preporučeni: