Pandangan tentang 26 Teknik Analisis Data Besar: Bahagian 1
Pandangan tentang 26 Teknik Analisis Data Besar: Bahagian 1
RabbitMQ adalah broker mesej sumber terbuka yang menyokong AMQP, STOMP dan teknologi komunikasi lain. Ia digunakan secara meluas dalam aplikasi perusahaan dan seni bina perkhidmatan mikro moden di mana ia berfungsi sebagai saluran mesej tak segerak antara pelbagai perkhidmatan mikro. Panduan ini akan menerangkan bagaimana anda boleh mengelompokkan RabbitMQ ke pelayan CentOS 7 yang pelbagai untuk membentuk broker mesej ketersediaan yang tinggi. Dalam tutorial ini, satu pelayan akan bertindak sebagai pelayan induk dan pelayan lain akan bertindak sebagai pelayan cermin sekiranya pelayan induk menjadi tidak tersedia.
Firewall CentOS, ( firewalld
), tidak membenarkan lalu lintas masuk secara lalai. Untuk menjadikan RabbitMQ tersedia untuk sistem lain di dalam dan di luar rangkaian, dan untuk membolehkan kami mengakses konsol pengurusan, kami mesti membuka beberapa pelabuhan terlebih dahulu.
Konsol pengurusan antara muka web RabbitMQ secara lalai mendengar di port 15672
. Kami ingin menjadikan konsol pengurusan tersedia secara terbuka supaya kami dapat mengaksesnya dari komputer kami. Oleh itu, kami akan mengarahkan firewalld
pelabuhan secara kekal terbuka 15672
di zon awam (yang merupakan zon lalai dan aktif pada contoh Vultr).
sudo firewall-cmd --zone=public --add-port=15672/tcp --permanent
Kelenjar RabbitMQ perlu berkomunikasi dengan satu sama lain. Kami ingin membuka port yang diperlukan, tetapi hanya melalui rangkaian dalaman. Kami tidak mahu sesiapa sahaja di internet dapat mentadbir atau menghubungi pelayan kami secara langsung. Perintah berikut menganggap bahawa pelayan kami berada di 192.168.0.100/24
subnet.
Perkhidmatan pertama adalah perkhidmatan epmd
penemuan rakan sebaya yang secara lalai mendengar di port 4369
.
sudo firewall-cmd --permanent --zone=public --add-rich-rule='
rule family="ipv4"
source address="192.168.0.100/24"
port protocol="tcp" port="4369" accept'
Untuk komunikasi internode dan CLI, RabbitMQ perlu berkomunikasi melalui pelabuhan 25672
.
sudo firewall-cmd --permanent --zone=public --add-rich-rule='
rule family="ipv4"
source address="192.168.0.100/24"
port protocol="tcp" port="25672" accept'
Alat CLI berkomunikasi melalui pelbagai port 35672-35682
.
sudo firewall-cmd --permanent --zone=public --add-rich-rule='
rule family="ipv4"
source address="192.168.0.100/24"
port protocol="tcp" port="35672-35682" accept'
Jika aplikasi anda memerlukan protokol AMQP, anda juga perlu membuka port 5671
dan 5672
. Sekiranya anda perlu berkomunikasi melalui protokol lain, anda boleh mendapatkan maklumat yang diperlukan mengenai keperluan rangkaian RabbitMQ pada dokumentasi rasmi RabbitMQ .
sudo firewall-cmd --permanent --zone=public --add-rich-rule='
rule family="ipv4"
source address="192.168.0.100/24"
port protocol="tcp" port="5672" accept'
sudo firewall-cmd --permanent --zone=public --add-rich-rule='
rule family="ipv4"
source address="192.168.0.100/24"
port protocol="tcp" port="5671" accept'
Sekarang yang firewalld
dikonfigurasikan, kita perlu mengarahkannya untuk memuatkan semula konfigurasi.
sudo firewall-cmd --reload
Ulangi langkah-langkah dari bahagian ini pada semua pelayan.
rabbitmqadmin
Plugin pengurusan datang dengan alat Python yang dipanggil rabbitmqadmin
yang boleh dipasang dengan mudah pada sistem sebaik sahaja plugin pengurusan diaktifkan.
sudo wget http://localhost:15672/cli/rabbitmqadmin
sudo mv rabbitmqadmin /usr/local/bin/
sudo chmod +x /usr/local/bin/rabbitmqadmin
Anda mesti menggunakan nama host pelayan untuk mengenal pasti pelayan semasa melakukan kluster. Secara lalai, pelayan tidak mempunyai rekod DNS yang ditetapkan dan sambungan akan gagal. Untuk mengatasi masalah ini dengan cepat, tambahkan nama tuan dan cermin host ke /etc/hosts
fail menggunakan editor kegemaran anda.
Contohnya, fail hos tuan anda mungkin seperti berikut. Perhatikan dua rekod yang terakhir, yang membolehkan pelayan mengenal pasti satu sama lain dengan nama hos mereka. Pastikan anda menukar alamat IP anda sendiri.
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4
::1 localhost localhost.localdomain localhost6 localhost6.localdomain6
127.0.0.1 guest
::1 guest
127.0.0.1 YOUR_MASTER_SERVER_HOST_NAME
::1 YOUR_MASTER_SERVER_HOST_NAME
192.168.0.101 YOUR_MASTER_SERVER_HOST_NAME
192.168.0.102 YOUR_MIRROR_SERVER_HOST_NAME
Prasyarat import untuk membolehkan nod bergabung antara satu sama lain adalah bahawa kuki Erlang dari semua nod adalah serupa. Secara lalai, setiap nod akan diberikan kuki Erlang yang unik, jadi anda mesti menyusun semulanya pada semua nod.
Perintah berikut akan menetapkan kuki Erlang menjadi " WE<3COOKIES
", tetapi jangan ubah ini mengikut keinginan anda. Lakukan ini pada semua pelayan.
sudo sh -c "echo 'WE<3COOKIES' > /var/lib/rabbitmq/.erlang.cookie"
Restart RabbitMQ pada semua pelayan untuk memastikan kuki Erlang dimuatkan dengan betul.
sudo systemctl restart rabbitmq-server.service
Jalankan arahan berikut pada semua pelayan kecuali pada pelayan induk. Ini akan membiarkan nod menyertai pelayan induk dan membentuk kluster.
sudo rabbitmqctl stop_app
sudo rabbitmqctl join_cluster "rabbit@<YOUR_MASTER_SERVER_HOST_NAME>"
sudo rabbitmqctl start_app
Sahkan bahawa node telah bergabung dengan kluster dengan menjalankan perintah berikut.
sudo rabbitmqctl cluster_status
Semua nod anda akan muncul di nodes
dan running_nodes
bahagian output. Mulai sekarang, anda tidak perlu lagi mengulangi langkah pada setiap pelayan, konfigurasi akan dicerminkan secara automatik ke nod lain.
Sekarang bahawa kita mempunyai kumpulan RabbitMQ nod, kita boleh menggunakannya untuk membuat antrian dan bursa ketersediaan tinggi dengan menyediakan dasar baru. Dasar ini boleh ditambahkan melalui RabbitMQ Management Console atau menggunakan antara muka baris arahan.
sudo rabbitmqctl set_policy -p "/" --priority 1 --apply-to "all" ha ".*" '{ "ha-mode": "exactly", "ha-params": 2, "ha-sync-mode": "automatic"}'
Senarai berikut akan menerangkan tentang setiap bahagian arahan.
-p "/"
: Gunakan polisi ini di "/"
vhost (lalai selepas pemasangan)--priority 1
: Urutan untuk menerapkan polisi --apply-to "all"
: Boleh "queues"
, "exchanges"
atau"all"
ha
: Nama yang kami berikan pada dasar kami ".*"
: Ungkapan biasa yang digunakan untuk membuat keputusan untuk beratur atau pertukaran dasar ini diterapkan. ".*"
akan sesuai dengan apa sahaja'{ "ha-mode": "exactly", "ha-params": 2, "ha-sync-mode": "automatic"}'
: Perwakilan polisi JSON. Dokumen ini menerangkan bahawa kami mahu - betul-betul 2 nod di mana data disegerakkan secara automatikRingkasnya, dasar ini akan memastikan bahawa kita akan selalu mempunyai 2 salinan data dalam barisan atau pertukaran selagi kita mempunyai sekurang-kurangnya 2 nod dan berjalan. Jika anda mempunyai nod lebih banyak, anda boleh meningkatkan nilai ha-params
. Sebuah korum, ( N/2 + 1
), nod dinasihatkan. Memiliki lebih banyak salinan data anda akan mengakibatkan penggunaan disk, i / o dan net yang lebih tinggi yang dapat menghasilkan kinerja yang menurun.
Jika anda ingin mencerminkan data ke semua nod dalam kelompok, anda boleh menggunakan dokumen JSON yang berikut.
'{ "ha-mode": "all", "ha-sync-mode": "automatic"}'
Jika anda ingin mencerminkan data hanya ke nod tertentu, (misalnya: node-1
dan node-2
), anda boleh menggunakan yang berikut.
'{ "ha-mode": "nodes", "ha-params" :["rabbit@node-1", "rabbit@node-2"], "ha-sync-mode": "automatic"}'
Anda boleh menukar ungkapan biasa untuk menetapkan dasar yang berbeza untuk beratur yang berbeza. Katakan kita mempunyai tiga nod berikut:
Kita kemudian dapat membuat dua dasar yang akan menghasilkan antrian dengan nama yang dimulai dengan "klien" untuk dicerminkan ke rabbit@client-ha
simpul dan semua barisan yang mempunyai nama yang dimulai dengan "produk" akan dicerminkan ke rabbit@product-ha
simpul.
sudo rabbitmqctl set_policy -p "/" --priority 1 --apply-to "queues" ha-client "client.*" '{ "ha-mode": "nodes", "ha-params": ["rabbit@master", "rabbit@client-ha"], "ha-sync-mode": "automatic"}
sudo rabbitmqctl set_policy -p "/" --priority 1 --apply-to "queues" ha-product "product.*" '{ "ha-mode": "nodes", "ha-params": ["rabbit@master", "rabbit@product-ha"], "ha-sync-mode": "automatic"}
Satu komen kecil di sini: barisan eksklusif tidak pernah dicerminkan atau tahan lama di RabbitMQ, walaupun dasar ini sesuai dengan barisan tersebut. Antrean eksklusif akan dimusnahkan secara automatik setelah pelanggan memutuskan hubungan dan, oleh itu, tidak ada gunanya menirunya ke pelayan lain. Sekiranya pelayan gagal, pelanggan akan memutuskan sambungan daripadanya dan barisan akan dihancurkan secara automatik. Contoh cermin juga akan hancur.
Untuk menguji penyusunan berkelompok kita dapat membuat antrian baru menggunakan antarmuka baris perintah melalui konsol pengurusan.
sudo rabbitmqadmin declare queue --vhost "/" name=my-ha-queue durable=true
Ini akan membuat barisan tahan lama pada /
vhost lalai dengan nama my-ha-queue
.
Jalankan arahan berikut dan sahkan dalam output bahawa antrian telah menetapkan kebijakan 'ha' kami dan mempunyai pid pada master dan pada nod cermin.
sudo rabbitmqctl list_queues name policy state pid slave_pids
Sekarang kita dapat menerbitkan mesej ke barisan dari nod induk dan menghentikan RabbitMQ pada nod induk.
sudo rabbitmqadmin -u user_name -p password publish routing_key=my-ha-queue payload="hello world"
sudo systemctl rabbitmqctl shutdown
Sekarang dapatkannya semula dengan menyambung ke nod cermin.
sudo rabbitmqadmin -H MIRROR_NODE_IP_OR_DNS -u user_name -p password get queue=my-ha-queue
Akhirnya, kita boleh memulakan semula nod induk kita.
sudo systemctl start rabbitmq-server.service
Seperti disebutkan sebelumnya, RabbitMQ secara automatik membuat pengguna tetamu dengan kata laluan tetamu lalai. Amalan buruk untuk meninggalkan pengguna lalai ini pada sistem awam yang terdedah.
sudo rabbitmqctl delete_user guest
Pandangan tentang 26 Teknik Analisis Data Besar: Bahagian 1
Ramai daripada anda tahu Switch akan keluar pada Mac 2017 dan ciri baharunya. Bagi yang tidak tahu, kami telah menyediakan senarai ciri yang menjadikan 'Tukar' sebagai 'gajet yang mesti ada'.
Adakah anda menunggu gergasi teknologi memenuhi janji mereka? semak apa yang masih belum dihantar.
Baca blog untuk mengetahui lapisan berbeza dalam Seni Bina Data Besar dan fungsinya dengan cara yang paling mudah.
Baca ini untuk mengetahui cara Kecerdasan Buatan semakin popular di kalangan syarikat berskala kecil dan cara ia meningkatkan kebarangkalian untuk menjadikan mereka berkembang dan memberikan pesaing mereka kelebihan.
CAPTCHA telah menjadi agak sukar untuk diselesaikan oleh pengguna dalam beberapa tahun kebelakangan ini. Adakah ia dapat kekal berkesan dalam pengesanan spam dan bot pada masa hadapan?
Apabila Sains Berkembang pada kadar yang pantas, mengambil alih banyak usaha kita, risiko untuk menundukkan diri kita kepada Ketunggalan yang tidak dapat dijelaskan juga meningkat. Baca, apakah makna ketunggalan bagi kita.
Apakah teleperubatan, penjagaan kesihatan jauh dan impaknya kepada generasi akan datang? Adakah ia tempat yang baik atau tidak dalam situasi pandemik? Baca blog untuk mencari paparan!
Anda mungkin pernah mendengar bahawa penggodam memperoleh banyak wang, tetapi pernahkah anda terfikir bagaimana mereka memperoleh wang seperti itu? Mari berbincang.
Baru-baru ini Apple mengeluarkan macOS Catalina 10.15.4 kemas kini tambahan untuk menyelesaikan masalah tetapi nampaknya kemas kini itu menyebabkan lebih banyak masalah yang membawa kepada pemusnahan mesin mac. Baca artikel ini untuk mengetahui lebih lanjut