Základy Kafky - kurz 42 000 rub. z IBS Training Center, školení 24 hodin, Datum: 4. prosince 2023.
Různé / / November 29, 2023
Pokrytá témata:
1. Recenze (teorie – 1 hodina)
Co je Kafka.
Příklady úspěšného a neúspěšného použití Kafky.
Kafka a databáze: podobnosti a rozdíly.
Kafka a fronta zpráv: podobnosti a rozdíly.
Architektura úložiště Kafka: Brokeři, témata, oddíly, segmenty, repliky.
Architektura clusteru Kafka: Zookeeper, rozdělení, hlavní a podřízené replikační uzly, ISR.
Klienti a API.
2. Nastavení clusteru (cvičení – 1 hodina)
Cvičení 2.1: Spuštění clusteru Kafka pomocí Dockeru.
Instalace Zookeeper.
Instalace Kafka brokerů.
3. Vývoj aplikací v Javě (teorie – 2,5 hodiny, praxe – 2,5 hodiny)
Kafka Producer API: Základy.
Cvičení 3.1: Odeslání jedné zprávy.
Cvičení 3.2: Odesílání více zpráv.
Cvičení 3.3: Odesílání více zpráv s explicitním rozdělením.
Cvičení 3.4: Odesílání zpráv bez klíčů.
Kafka Consumer API: základy, skupiny spotřebitelů.
Cvičení 3.5: Jeden příjemce.
Cvičení 3.6: Více příjemců v jedné skupině.
Další funkce: Pakety, Opakování, Idempotence, Transakce, Rebalancování skupin spotřebitelů.
Cvičení 3.7: Odesílatel bez paketů a opakování.
Cvičení 3.8: Idempotentní odesílatel.
Cvičení 3.9: Odesílatel transakcí.
Cvičení 3.10: Odesílání a přijímání v transakci.
Cvičení 3.11: Příjem-zpracování-odeslání v transakci.
4. Externí přístup do clusteru Kafka (teorie – 2 hodiny, praxe – 2 hodiny)
Zabezpečení: SSL, SASL, Kerberos.
REST Proxy: odesílání a přijímání zpráv ve formátu JSON, binární a Avro.
Cvičení 4.1: Přístup přes REST Proxy.
Registr schémat: registr schémat.
Cvičení 4.2: Použití REST proxy s registrem schémat.
5. Údržba a monitorování (teorie – 1 hodina, praxe – 1 hodina)
Nastavení clusteru pro různé účely.
Zookeeper: konfigurace, samostatný režim a režim kvora, CLI.
Cvičení 5.1: Monitorování Kafkova klastru pomocí Promethea.
6. Několik shluků (teorie – 1 hodina, praxe – 1 hodina)
Proč byste mohli potřebovat více clusterů v Kafce?
MirrorMaker Access.
Cvičení 6.1: Použití MirrorMakeru k synchronizaci clusterů.
Confluence Replikátor.
7. Kafka Connect (teorie – 2 hodiny, praxe – 2 hodiny)
Architektura Kafka Connect.
Datové jímky Kafka Connect.
Cvičení 7.1: FileStream File Receiver.
Cvičení 7.2: Přijímač JDBC.
Zdroje dat Kafka Connect.
Cvičení 7.3: Zdroj FileStream.
Cvičení 7.4: Zdroj JDBC.
8. Základy Kafkových proudů (teorie – 2 hodiny, praxe – 2 hodiny)
Kafka Streams: DSL, API, StreamBuilder, tvorba a implementace topologie.
Demo 8.1: Implementace topologie Streams.
Demo 8.2: Vytvoření aplikace Streams pomocí StreamBuilderu.
Zařízení Kafka Streams: multi-threading, více instancí a úkolů.
Datová schémata v Kafce: serializace do schémat JSON, schémata Avro, registr schémat, vývoj schémat.
Demo 8.3: Použití schémat JSON.
Stavové zpracování: Státní úložiště, odolnost proti chybám pro státní úložiště.
KTable: Toky aktualizace dat, ukládání do mezipaměti, rychlost načítání, agregace.
Okna ve streamech: časová razítka, plovoucí, skákání, relace.
Připojení: stream to stream, KTable to KTable, stream to KTable.