Lua集成kafka第三方插件代码介绍|学习笔记

简介: 快速学习Lua集成kafka第三方插件代码介绍

开发者学堂课程【大数据实战项目:反爬虫系统(Lua+Spark+Redis+Hadoop框架搭建):Lua集成kafka第三方插件代码介绍】学习笔记与课程紧密联系,让用户快速学习知识

课程地址:https://developer.aliyun.com/learning/course/670/detail/11614


Lua集成kafka第三方插件代码介绍

 

内容介绍:

一、代码的书

二、导入依赖包

三、创建Kafka生产者

四、创建数据的载体

五、发送数据

 

一、代码的书写

目标

编写 Lua 的脚本采集数据的脚本完成数据后集后,把这个数据发送到 Kafka 里面。

写思路:

类似于写Java的代码除去类似 Java 的部分,要多加一个引入操作。

我们现在使用的是 Lua 脚本 来采集数据,现在还没有 Kafka 生产者的API需要先引入 Kafka 的包,然后呢再做创建生产者创建数据的载体发送数据

 

二、导入依赖包

1.打开当下环境 resty,查找依赖包。

查找过程:user local authority- Lua lib进入到 Lua liver里不存在 Kafka 、然后再进入到resty、 Cd rest 里看是否存在 Kafka API 。

2.不存在API时需要使用第三方提供的 Kafka API 。

具体位置:在提供材料-素材-资料包-资料包- Open Resty里面资源里面有个 Lua rest, Kafka 的master文件。

Lua - resty - Kafka -master 右键解压。

点击进入 lib -resty- Kafka-producer其中包括许多内容。

图片1.png

3.将依赖包上传到集群里面上传查看 Kafka 整个目录

当前的目录是在resty 里边有一个 Kafka ,其中无内容。将 Kafka 整个目录全部都发送到环境目录下面来。用另外一个工具看一下192.168.100.160,然后用户名为root

输入密码123456然后找到usr - local -Lula labour。

把这里面的 Kafka 目录直接全部都拖过来走。

图片2.png


三、创建 Kafka 生产者

打开producer其中存在的[_M]与ridis的相似。具体代码如下:

Local_M={ _VERSION="0.06"}

local mt={ _index=M}

_M即意味着 Kafka 生产者需要创建一个 Kafka 实例。

创建实例需要用到new,查找目标:_M.new

接着需要这个 Kafka 的 new这个过程中需要用到以下参数

图片3.png

1. Sel

2. broker list指集群的一些信息诸如节点 IP端口内容 Brokerlist 传到环境中后已结束,传到客户端中。

3. config一些配置信息

存在or(空):即若传了这个参数,就显示参数如果没传我就相当默认的参数。

举例: producer type存在一个值 request_timeout,有个or 2000类似他这个默认值,这个属性中存在默认值。

如果传过来的内容中有数据,那就用用户传,如果没有就用这个默认值。搜索Opts,显示出来的均为默认值。

图片4.png

4.cluster_name:

存在 or DEFAULT_CLUSTER_NAME查找一下 =1 这也表示一个名字。

即此类集群的名字,如果传了,我就用户上传的命名;没传就使用1来代表该集群。

查找 _M.send发送数据 self 参数是数据本身。

发送数据时的 topic 、 Key 、message中不存在默认值,说明 topic 、 Key 、message 是发送数据时需要用户给出、必备的内容。

 

四、创建数据的载体

实际上不需要载体,但是也要有一个过程,实际上是没用到,但在发送数据的时候,直接把原始数据发送过去

 

五、发送数据

API 缩小化, produce这个就完成了。在桌面上面新建一个文件,这个文件就按照讲义中的名字进行命名: GetDataToKafka

GetDataToKafka 该文件用于书写获取数据,并且把数据打入到 Kafka

相关文章
|
20天前
|
监控 安全 测试技术
在实施自动化和持续集成的过程中,如何确保代码的安全性和合规性?
在实施自动化和持续集成的过程中,如何确保代码的安全性和合规性?
|
2月前
|
消息中间件 存储 Java
大数据-58 Kafka 高级特性 消息发送02-自定义序列化器、自定义分区器 Java代码实现
大数据-58 Kafka 高级特性 消息发送02-自定义序列化器、自定义分区器 Java代码实现
48 3
|
2月前
|
消息中间件 Java 大数据
大数据-56 Kafka SpringBoot与Kafka 基础简单配置和使用 Java代码 POM文件
大数据-56 Kafka SpringBoot与Kafka 基础简单配置和使用 Java代码 POM文件
70 2
|
2月前
|
安全 算法 Java
数据库信息/密码加盐加密 —— Java代码手写+集成两种方式,手把手教学!保证能用!
本文提供了在数据库中对密码等敏感信息进行加盐加密的详细教程,包括手写MD5加密算法和使用Spring Security的BCryptPasswordEncoder进行加密,并强调了使用BCryptPasswordEncoder时需要注意的Spring Security配置问题。
160 0
数据库信息/密码加盐加密 —— Java代码手写+集成两种方式,手把手教学!保证能用!
|
2月前
|
消息中间件 分布式计算 Kafka
大数据-102 Spark Streaming Kafka ReceiveApproach DirectApproach 附带Producer、DStream代码案例
大数据-102 Spark Streaming Kafka ReceiveApproach DirectApproach 附带Producer、DStream代码案例
57 0
|
3月前
|
前端开发 C++ Windows
C++生成QML代码与QML里面集成QWidget
这篇文章介绍了如何在C++中生成QML代码,以及如何在QML中集成QWidget,包括使用Qt Widgets嵌入到QML界面中的技术示例。
|
4月前
|
Java Devops 持续交付
探索Java中的Lambda表达式:简化代码,提升效率DevOps实践:持续集成与部署的自动化之路
【8月更文挑战第30天】本文深入探讨了Java 8中引入的Lambda表达式如何改变了我们编写和管理代码的方式。通过简化代码结构,提高开发效率,Lambda表达式已成为现代Java开发不可或缺的一部分。文章将通过实际例子展示Lambda表达式的强大功能和优雅用法。
|
4月前
|
jenkins 持续交付 网络安全
利用 Jenkins 实现持续集成与持续部署-代码拉取终端的配置
【8月更文挑战第30天】在Jenkins服务器中,git和Gitee是常用的代码拉取终端。Git作为分布式版本控制系统,具备出色的灵活性和可扩展性;而Gitee则在国内网络环境下表现更佳,适合团队协作。Git配置包括安装、设置用户信息及生成SSH密钥等步骤;Gitee配置也类似,需注册账号、创建仓库、配置基本信息并设置远程仓库地址。开发人员提交代码后,可通过Webhook、定时轮询或事件监听等方式触发Jenkins动作,确保持续集成和部署高效运行。正确配置这些触发机制并通过测试验证其有效性至关重要。
68 2
|
4月前
|
jenkins 持续交付
jenkins学习笔记之六:共享库方式集成构建工具
jenkins学习笔记之六:共享库方式集成构建工具
|
3月前
|
jenkins 持续交付 网络安全
利用 Jenkins 实现持续集成与持续部署-代码拉取终端的配置
安装Git、配置用户信息、生成SSH密钥以及在Gitee上创建项目仓库等。
81 0