Confluent Platform 6.0 ievieš klasteru saistīšanu Apache Kafka

  • Nov 01, 2023

Kafkas samitā Confluent paziņo par jaunu posmu savos mākoņainajos Kafkas centienos, tostarp priekšskatījumu līdzeklis, ko sauc par klasteru saistīšanu, un pašbalansējošu klasteru, ksqlDB un bezgalīgu datu GA izlaidums saglabāšana.

Pirms dažiem mēnešiem, Saplūstošs, galvenais komerciālais atbalstītājs Apache Kafka, ko dibināja šīs tehnoloģijas radītāji, laida klajā savu Projekts Metamorfoze centieni pārveidot notikumu straumēšanas tehnoloģiju. Izaicinājums bija milzīgs: paņemiet Kafka, kas savu dzīvi sāka kā sarežģīta tehnoloģija, kas darbojas klientu vadītās serveru kopās, un pārveidojiet to par mākoņpakalpojumu, kas "tikai darbojas".

Lasiet arī: Confluent nodrošina, ka Apache Kafka ir mākoņdatošana

Confluent organizē arī ikgadējo Kafkas samits pasākums, kas šodien sākas kā virtuāla konference. Uzņēmums izmanto izdevību, lai paziņotu par septembra izlaišanu Saplūstoša platforma 6.0 un līdz ar to arī jauns posms tās mākoņainajos Kafkas centienos: Project Metamorphosis – Global. Jaunajā projekta fāzē ir iekļauta funkcija ar nosaukumu Cluster Linking, kas ļauj klientiem piecelties vairākos Kafka klasteri, katrs potenciāli dažādos ģeogrāfiskos reģionos, un federē (vai "saiti") tos ar minimālu skaitu pūles. Klasteru saistīšana būs pieejama priekšskatījumā Confluent Platform 6.0 un privātā priekšskatījumā

Saplūstošais mākonis.

Go Global

Klasteru saistīšana ļaus netieši replicēt datus starp klasteriem un būs piemērota ieviešanai, kur var būt pārliecināti, ka konkrēti dati atrodas noteiktās ģeogrāfiskās robežās. Un tā kā tā būs funkcija gan platformā Confluent, gan Confluent Cloud, tā darbosies vairākos publiskos mākoņos, kā arī lokālos klasteros. Faktiski vispārīgās kopas, kurās darbojas Kafka 2.4 vai jaunāka versija, sadalījumos, kas nav saplūstoši, var piedalīties arī klasteru saistīšanā, lai gan vienvirziena, tikai lasāmā kapacitātē.

Saplūstošā mākoņa pusē Metamorfozes līdzekļi iepriekš bija priekšskatījumā, tostarp pašbalansējošie klasteri, ksqlDB un bezgalīga datu saglabāšana, tagad ir vispārēji pieejami (GA) visās vietās Google mākoņa platforma, Amazon tīmekļa pakalpojumi un Microsoft Azure.

Lasiet arī:

  • Kafka iegūst SQL ar KSQL
  • Confluent paziņo par Infinite Storage for Apache Kafka

Sarežģītība ir pazudusi

Pat Confluent savā paziņojumā presei atzīst, ka "Kafkas klasteru savienošana starp dažādām vidēm... ir pārāk sarežģīts lielākajai daļai organizāciju... [liekot] Hibrīda mākoņa un vairāku mākoņu Kafka izvietošanu nepieejamā vietā." Skaidrs, ka tas nav labi. pietiekami. Ar jebkuru jaunu tehnoloģiju, lai gan neapstrādāta inovācija sākumā piesaista ikviena uzmanību, galu galā tā kļūst skaidrs, ka sarežģītība nedrīkst būt klienta problēma un ka platformai ir jāizdara sarežģītās lietas viegli.

Tā kā pati Kafka tiek izmantota datu integrēšanai starp sistēmām, var būt apgrūtinoši, ka var būt grūti replicēt datus starp pašām Kafka klasteriem. Confluent risinājums ar klasteru saistīšanu to ņem vērā: tas izmanto Kafka brokera protokolu, lai ļautu diviem vai vairākiem Kafka klasteriem replicēt datus, neizmantojot citus komponentus. Tā ir sava veida tehnoloģija, kas ir līdzvērtīga sludinātā praktizēšanai.

Saplūstošs, Kafka un COVID

Mūsu sociāli attālinātajā realitātē tiešsaistes sistēmas ir pieprasītākas nekā jebkad agrāk, un tām ir jākopīgo dati nevainojami, pat ievērojot datu suverenitātes ierobežojumus. Saskaņā ar šīm prasībām tādas funkcijas kā klasteru saistīšana ir ļoti svarīgas. Lai gan Metamorfoze, iespējams, bija Confluenta centieni padarīt Kafka mākonisku, neatkarīgi no Covid-19, pandēmija noteikti ir apstiprinājusi gudrību, uzsākot šo projektu pirmajā vieta.

Kopā ar bezgalīgas krātuves iespēju, par kuru tika paziņots iepriekš, Cluster Linking var labi pozicionēt Kafku darboties kā notikumu datu ierakstīšanas sistēma kopumā, nevis tikai pakalpojumu kopne to apstrādei datus.