介绍一下Klaw,这是用于Apache Kafka®治理的工具
介绍Apache Kafka®治理的Klaw翻译。
2022年的9月29日
介绍Klaw,用于Apache Kafka®治理
请看Klaw,这个开源的数据治理工具包可以帮助企业执行Apache Kafka®主题和架构的治理。让我们来了解一下Klaw能做什么!
在企業環境中運行Apache Kafka®並不容易。Aiven已經收購了Kafkawize。Kafkawize提供在Apache Kafka之上的集中式治理層,完全開源並可自由下載和使用。
这个项目现在已经被重新命名为Klaw。它是完全开源的,可以免费下载和使用。
古老的方法
企業在处理与Apache Kafka配置相关的任务方面有两种传统方法:自由和门卫。
**自由与混乱
基於用戶需求,基礎設施團隊可以自由地創建新的配置和連接。這通常需要團隊之間頻繁的溝通來處理所有權和誰應該加入其中的問題。可能沒有系統地追蹤變更。結果是形成了一個有機成長的連接和元素的遊樂場,並且變得難以找到某個東西,以及設法知道它連接到了什麼。
门控和瓶颈。
一个门卫掌控着哪些要素和连接会被创建。门卫与利益相关方进行谈判,将要求传达给基础设施团队,直到门卫盖章批准之前,不会有任何展开。结果就是,这变成了一个依赖少数人(甚至一个人!)的缓慢过程,使得更新配置变得困难。
Klaw提供了一个过程和基于Web的数据治理工具包,让使用该服务的团队能够提交关于新话题、模式、访问权限和连接器的请求。
Klaw在做什么?
Klaw是一个基于Web的数据治理工具包,用于管理Apache Kafka的主题、ACL和模式。
Klaw为Apache Kafka服务用户团队提供了一个无需管理员干预即可请求Apache Kafka配置更改的自助服务用户界面。可以通过Klaw发起的更改请求如下所示:
-
- Kafkaユーザーのロールの追加と定義
-
- ある環境から別の環境へのトピックの作成と昇格
-
- スキーマの作成と更新
-
- トピックへの生成またはトピックからの消費を行うユーザーの承認
- コネクタの追加
Klaw的优势
使用Klaw进行请求时,该请求所需的所有信息都包含在内,可以节省团队间沟通的时间和精力。
另外,通过这样充分结构化的请求,新的主题将具有一致的构成。
在建立的工作流中,始终会对任何请求保持第二眼的关注,以确保请求的质量保持良好,并保持责任的说明。
此外,Klaw会管理与配置更改相关的所有事件日志。您可以很容易地在之后查看谁在什么时间请求了什么,并且什么时候进行了更改。
总结一下,Klaw可以用于在Apache Kafka上实现统一的治理和审计层。
Klaw是如何运作的?
这个概念允许使用Apache Kafka的团队成员提交变更请求,并由拥有相关资源的团队成员进行批准。换句话说,所有数据由理解其内容的团队拥有。
当收到请求时,所有可以批准该请求的团队成员都会收到通知。只要是团队成员,谁都可以批准请求。
团队、角色、用户
在中国的本地化版本中,第一步是设置所需的团队并确定他们的责任。默认情况下,会准备两个团队:infrateam和stagingteam。
接下来,我们将添加用户。用户可以被分配到团队中,并能够在那里提出变更请求或批准请求。创建用户的最简单方法是使用LDAP或与现有的SSO提供商进行集成。系统默认提供的用户只有一个,即超级管理员用户。
为了方便管理用户及其权限,我们可以使用角色,并为每个角色分配不同的权限。默认情况下提供了两个角色,即用户和超级管理员。可以根据需要进一步创建角色。
环境
Apache Kafka资源会在Klaw内部进行环境设置。可以单独管理集群和环境,并设置它们之间的关系来构建部署管道。
举个例子,您可以指定如下的环境层次结构:
测试 -> 部署 -> 验收 -> 生产
例如,您可以在测试环境中创建新的主题,并在暂存环境中创建时请求主题的升级。通过这个过程,整个主题及其配置将在测试环境中创建并复制到暂存环境,从而节省了重复创建过程的麻烦。
同时
Klaw的一个最酷的功能是在集群之间同步主题和访问控制列表(ACL)的功能。您可以从一个集群中提取主题和ACL,并在另一个集群中轻松复制它们,只需点击一次。这不仅简化了Klaw的初始化,还可以创建整个Apache Kafka集群的标准配置。
爪(Klaw)和其他应用
无论是哪种Apache Kafka的变种,例如纯自主管理的Apache Kafka,或者是像Aiven for Apache Kafka这样的托管服务,Klaw都可正常运作。
为了进行用户认证,Klaw将使用Active Directory(AD)、SSO(OAuth2)和LDAP进行操作。
在Aiven的开源模式注册表Karapace和Confluent模式注册表中,两者都受到支持,用户可以提交存在于其中的模式请求。
支持的协议有PLAINTEXT、SSL、SASL。
Klaw拥有一个独特的集群API,可以插入Apache Kafka AdminClient API来管理Apache Kafka资源。
♫ 克劳和艾文
Aiven全力以赴支持Klaw的开源项目。Klaw和Karapace一样,也是Aiven开源项目的一部分,任何人都可以免费使用。虽然Aiven for Apache Kafka与Klaw无缝协作,是我们最推荐的选择,但并非必须。
Apache Kafka是一款卓越的工具,而Klaw则提供了企业Apache Kafka环境中常常缺乏的重要连接。
让我们开始使用Klaw吧
要开始使用Klaw,请访问Klaw项目页面。下载并阅读文档,开始为Apache Kafka用户提供强大的功能!