Funkcjonalności warstw architektury referencyjnej Big Data
Przeczytaj blog, aby w najprostszy sposób poznać różne warstwy w architekturze Big Data i ich funkcjonalności.
Beanstalk to szybka i prosta kolejka do pracy. Umożliwia asynchroniczne wykonywanie czasochłonnych zadań, takich jak wysyłanie wiadomości e-mail, łączenie się z zewnętrznymi interfejsami API lub przetwarzanie obrazów. W ten sposób zmniejszysz opóźnienie aplikacji internetowej. Laravel zapewnia gotową obsługę beanstalkd
.
W tym samouczku zainstalujemy beanstalkd
, skonfigurujemy aplikację demo Laravel i zarządzamy pracownikami kolejki za pośrednictwem Supervisora . Aplikacja demonstracyjna otrzyma listę dostępnych systemów operacyjnych z Vultr API i losowo wybierze jeden.
Zakłada się, że masz już Supervisora zainstalowanego w systemie. Jeśli tego nie zrobisz, zapoznaj się z poniższym samouczkiem na temat konfigurowania Supervisora: Instalowanie i konfigurowanie Supervisora na Ubuntu 16.04
Zakłada się również, że masz dostęp SSH do instancji Vultr.
Pierwszym krokiem jest instalacja beanstalkd
.
sudo apt-get update
sudo apt-get install beanstalkd
Uruchom usługę.
sudo systemctl start beanstalkd
Możesz także włączyć usługę, aby uruchamiała się po inicjalizacji systemu.
sudo systemctl enable beanstalkd
Sprawdź status usługi, wydając następujące polecenie.
sudo systemctl status beanstalkd
Domyślnie beanstalkd
nasłuchuje na porcie 11300
. Beanstalk używa prostego protokołu tekstowego opisanego w repozytorium github . Możesz przetestować jego protokół, uruchamiając telnet
.
telnet localhost 11300
Napisz poniższe i naciśnij ENTER.
list-tubes
Powinieneś zobaczyć listę lamp dostępnych na serwerze:
OK 14
---
- default
Aby zamknąć połączenie, po prostu wpisz, quit
a następnie naciśnij ENTER.
Rury w Beanstalk reprezentują kolejki robocze. Beanstalk składa się głównie z producentów , konsumentów , miejsc pracy i lamp . Producenci umieszczają zlecenia w tubie, która ma być konsumowana (przetwarzana) przez dowolną liczbę konsumentów. Pamiętaj, że zarówno producenci, jak i konsumenci są po prostu klientami serwera Beanstalk i są całkowicie od siebie niezależni. W praktyce oznacza to, że używając Beanstalk możesz tworzyć swoje zadania w aplikacji PHP i przetwarzać je na przykład w aplikacji NodeJS. Na szczęście Laravel streszcza to wszystko i zapewnia nam bardzo prosty interfejs API do wysyłania i obsługi zadań, co zobaczymy w dalszej części.
Aby zbudować nasz przykładowy projekt, najpierw musimy zainstalować jego zależności. Zamierzamy zainstalować PHP i Composer.
sudo apt-get install php php-mbstring php-xml php-common php-zip composer
Teraz utwórz projekt oparty na Laravel 5.5.
composer create-project --prefer-dist laravel/laravel vultr "5.5.*"
Następnie cd
do ostatnio utworzonego folderu. Odtąd będziemy pracować w tym katalogu. Do tego folderu można się później odwołać jako PROJECT_ROOT
.
cd vultr/
Aby użyć Beanstalk w Laravel, musimy zainstalować jeszcze jedną zależność, klienta PHP Beanstalk.
composer require pda/pheanstalk ~3.0
Musimy również utworzyć reprezentację zadania. W Laravel jest to klasa wewnątrz app/Jobs
folderu. Laravel ma polecenie konsoli, które pomaga nam stworzyć klasę Job. Stwórzmy naszą przykładową pracę.
php artisan make:job FindFavoriteOS
Zaktualizuj app/Jobs/FindFavoriteOS.php
plik do następującego.
<?php
namespace App\Jobs;
use Illuminate\Bus\Queueable;
use Illuminate\Queue\SerializesModels;
use Illuminate\Queue\InteractsWithQueue;
use Illuminate\Contracts\Queue\ShouldQueue;
use Illuminate\Foundation\Bus\Dispatchable;
use Illuminate\Support\Facades\Log;
class FindFavoriteOS implements ShouldQueue
{
use Dispatchable, InteractsWithQueue, Queueable, SerializesModels;
/**
* Create a new job instance.
*
* @return void
*/
public function __construct()
{
//
}
/**
* Execute the job.
*
* @return void
*/
public function handle()
{
$rawData = file_get_contents('https://api.vultr.com/v1/os/list');
$list = json_decode($rawData, true);
shuffle($list);
$key = array_rand($list);
$favorite = $list[$key];
Log::info('My Favorite OS is: ' . $favorite['name']);
}
}
Metoda uchwytu jest tym, co zostanie skutecznie wykonane, gdy zadanie zostanie zużyte. Tutaj pobieramy dane z Vultr API, losowo wybieramy system operacyjny i zapisujemy wybrany system operacyjny do pliku dziennika. Plik dziennika znajduje się w storage/logs/laravel.log
.
Zainstalowaliśmy już Beanstalk i zdefiniowaliśmy Zadanie, które ma być przez niego wykonane. Czas powiedzieć Laravelowi, aby używał Beanstalk jako domyślnej kolejki roboczej. Skopiuj domyślny .env
plik dostarczony przez instalację Laravel.
cp .env.example .env
Teraz otwórz .env
plik i zaktualizuj wiersz, w którym określono sterownik kolejki.
QUEUE_DRIVER=beanstalkd
Na koniec wygeneruj klucz aplikacji.
php artisan key:generate
Jesteśmy teraz gotowi do wysłania zadań do kolejki roboczej Beanstalk.
Wysłanie pracy w Laravel jest dość proste. Zaktualizuj routes/web.php
plik.
<?php
Route::get('/', function () {
for ($i = 0; $i < 50; $i++) {
\App\Jobs\FindFavoriteOS::dispatch();
}
return '50 Jobs dispatched!';
});
Mimo że nie jest zalecane uruchamianie wbudowanego serwera dostarczonego podczas produkcji, będziemy go używać tutaj ze względu na zwięzłość.
php artisan serve --host 0.0.0.0 --port 8000
Teraz w przeglądarce internetowej przejdź do http://[vultr-instance-ip]:8000
. Zobaczysz następujący komunikat.
50 Jobs dispatched!
Otwórz nowe połączenie SSH z serwerem i w naszym katalogu głównym projektu wykonaj następujące czynności.
php artisan queue:work --once
To jest oczekiwany wynik:
[2018-02-14 00:03:52] Processing: App\Jobs\FindFavoriteOS
[2018-02-14 00:03:53] Processed: App\Jobs\FindFavoriteOS
Potwierdź, że dziennik został wygenerowany.
cat storage/logs/laravel.log
Aby uniknąć konieczności ręcznego przetwarzania kolejki, skorzystamy supervisord
. Utwórz następującą konfigurację programu w /etc/supervisor/conf.d/vultr.conf
.
[program:vultr]
process_name=%(program_name)s_%(process_num)02d
command=php [PROJECT_ROOT]/artisan queue:work
autostart=true
autorestart=true
numprocs=8
redirect_stderr=true
stdout_logfile=/var/log/worker.log
Zauważ, że właściwa ścieżka do umieszczenia pliku konfiguracyjnego Supervisora będzie zależała od konfiguracji. Pamiętaj również, aby zastąpić [PROJECT_ROOT]
pełną ścieżką do PROJECT_ROOT
twojego systemu.
W tym miejscu konfigurujemy Supervisora, aby automatycznie rozpoczynał przetwarzanie kolejki i, w przypadku złamania skryptu, uruchamiał ją ponownie. Pamiętaj też, że nie tworzymy wystąpienia pojedynczego pracownika, ale 8 procesów. Możesz dowolnie tworzyć wiele procesów, które uznasz za konieczne w zależności od aplikacji.
Aby umożliwić przełożonemu zarządzanie naszym pracownikiem, zmuś go do ponownego odczytania konfiguracji.
sudo supervisorctl reread
sudo supervisorctl update
Jeśli usługa Supervisor nie została uruchomiona, wiele osób musi ją uruchomić.
sudo systemctl start supervisord
Zobaczmy teraz, czy zadania są przetwarzane.
tail -f storage/logs/laravel.log
W przeglądarce internetowej przejdź do http://[vultr-instance-ip]:8000
. Zobaczysz dzienniki generowane na konsoli.
Pomyślnie skonfigurowaliśmy aplikację Laravel do używania Beanstalk jako kolejki roboczej. Pokazaliśmy również, jak używać Supervisora do zarządzania pracownikami.
Przeczytaj blog, aby w najprostszy sposób poznać różne warstwy w architekturze Big Data i ich funkcjonalności.
Chcesz zobaczyć rewolucyjne wynalazki Google i jak te wynalazki zmieniły życie każdego człowieka dzisiaj? Następnie czytaj na blogu, aby zobaczyć wynalazki Google.
13 komercyjnych narzędzi do ekstrakcji danych z Big Data
Whatsapp w końcu uruchomił aplikację Desktop dla użytkowników komputerów Mac i Windows. Teraz możesz łatwo uzyskać dostęp do Whatsapp z systemu Windows lub Mac. Dostępne dla Windows 8+ i Mac OS 10.9+
Energia jądrowa jest zawsze pogardzana, nigdy jej nie szanujemy z powodu przeszłych wydarzeń, ale nie zawsze jest zła. Przeczytaj post, aby dowiedzieć się więcej na ten temat.
Koncepcja autonomicznych samochodów, które wyjadą na drogi za pomocą sztucznej inteligencji, to marzenie, które mamy już od jakiegoś czasu. Ale pomimo kilku obietnic nigdzie ich nie widać. Przeczytaj ten blog, aby dowiedzieć się więcej…
Wzrasta liczba ataków ransomware, ale czy sztuczna inteligencja może pomóc w radzeniu sobie z najnowszym wirusem komputerowym? Czy AI jest odpowiedzią? Przeczytaj tutaj, wiedz, że sztuczna inteligencja jest zmorą lub zgubą
Sztuczna inteligencja nie jest dla ludzi nową nazwą. Ponieważ sztuczna inteligencja jest włączona do każdego strumienia, jednym z nich jest opracowywanie narzędzi zwiększających ludzką wydajność i dokładność. Skorzystaj z tych niesamowitych narzędzi uczenia maszynowego i uprość swoje codzienne zadania.
Zawsze potrzebujemy Big Data Analytics do efektywnego zarządzania danymi. W tym artykule omówiliśmy kilka technik analizy Big Data. Sprawdź ten artykuł.
Czy jesteś również ofiarą ataków DDOS i nie masz pewności co do metod zapobiegania? Przeczytaj ten artykuł, aby rozwiązać swoje pytania.