使用容器和Elasticsearch集群对Twitter进行监控-阿里云开发者社区

使用容器和Elasticsearch集群对Twitter进行监控

2017-11-12 1374

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

本文涉及的产品

容器镜像服务 ACR，镜像仓库100个不限时长

简介：

介绍

Elasticsearch是ELK（Elasticsearch/Logstash/Kibana）的基石。在这篇文章中，我们将使用Rancher Catalog来部署stack，并将它用于追踪Twitter上的tag和brand。

追踪Twitter上的hashtag对于衡量基于Twitter的营销活动的影响力是非常有用的。你可以从中提取出诸如您的推文被转发的次数，你的营销活动为你带来了多少位新的关注者等有效信息。

安装ELK stack

Elasticsearch

若你已经有了一个正在工作中的Elasticsearch集群，现在只需要调整一些集群中的配置即可。我们将使用JSON创建一个索引模板，来调整相关配置。

在GitHub上获取JSON模板
在你的浏览器中输入http://[你的kopf在rancher主机上的路径]
在kopf中，点击“more”，然后在下拉菜单中选择“index templates”

现在我们给我们的索引模板起个名字，并且推动其配置。

使用twitter_elk_example作为模板名称
粘贴你之前下载的JSON文件中的内容
点击“save”按钮

Elasticsearch集群的配置就到这里。现在让我们接着往下走。

Logstash

Logstash让你能够分析所获得的数据并且将数据传输至你的Elasticsearch集群中。它原生支持很多数据源（如Twitter APIs、collectd、Apache日志等）。

在处理你的数据时，Logstash可以帮助你解压或格式化你数据中的正确部分。这样，你就不必推送一些不必要的或者（更糟的）错误数据，这些脏数据会使你的Kibana dashboard与实际情况不相符。

在我们开始之前，需要创建Twitter应用密钥

需要特别关注以下内容：

Consumer Key
Consumer Secret
Access Token
Access Token Secret

注意：确保你所有的Rancher主机的时钟均已同步，否则你将无法正确地使用Twitter证书。

现在跳转到目录页并选择Logstash（最好是最新的版本）。你需要在“Logstash inputs*”输入框中加入以下内容（用你自己的APIs认证密钥替换CAP文本）：

 
        twitter {
       
        consumer_key => 
        "INSERT YOUR CONSUMER KEY" 
       
        consumer_secret => 
        "INSERT YOUR CONSUMER SECRET" 
       
        oauth_token => 
        "INSERT YOUR ACCESS TOKEN" 
       
        oauth_token_secret => 
        "INSERT YOUR ACCESS TOKEN SECRET" 
       
        keywords => [ 
        "docker"
        , 
        "rancher_labs"
        , 
        "rancher"
        , 
        "kubernetes" 
        ] 
       
        full_tweet => 
        true 
       
        }

注意：在关键字数组中，不要使用“@”或者“#”符号，否则Logstash将运行失败并报“unauthorized message”错误。

 
        在“Logstash output*”这个输入框中，你需要加入以下内容
       
        output {
       
        elasticsearch { 
       
        host => 
        "elasticsearch:9200" 
       
        protocol => 
        "http" 
       
        cluster_name => 
        "NAME OF YOUR ELASTICSEARCH CLUSTER" 
       
        index => 
        "twitter_elk_example" 
       
        document_type => 
        "tweets" 
       
        }