redis list operator tested with ruby

本文涉及的产品
云数据库 Tair(兼容Redis),内存型 2GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
简介:
redis是一个性能比较出色的内存数据库或者说NOSQL.
下面使用ruby测试一下lpush和lpop的性能.
测试机 :
HP DL360G5
16G内存
2颗 4核心Intel(R) Xeon(R) CPU           E5405  @ 2.00GHz
ruby版本1.9.3-p194
redis版本2.4.14
操作系统 : CentOS 5.2 x64


1. 安装redis-rb (rubygems里面叫redis, github里面叫redis-rb注意)
ruby和git安装可以参考前面几篇BLOG : 
  use rvm install and manage ruby version
  git install

安装redis-rb模块.
[root@db-172-16-3-33 ~]# gem install redis
Fetching: redis-3.0.0.gem (100%)
Successfully installed redis-3.0.0
1 gem installed
Installing ri documentation for redis-3.0.0...
Installing RDoc documentation for redis-3.0.0...
[root@db-172-16-3-33 ~]# gem list

*** LOCAL GEMS ***

redis (3.0.0)


2. 安装redis
-- 下载redis源码
[root@db5 soft_bak]# wget http://redis.googlecode.com/files/redis-2.4.14.tar.gz


解压并安装到指定目录
tar -zxvf redis-2.4.14.tar.gz
cd redis-2.4.14
make all
make PREFIX=/opt/redis2.4.14 install


修改环境变量
vi ~/.bash_profile

export PATH=/opt/redis2.4.14/bin:$PATH


应用环境变量
. ~/.bash_profile


创建配置文件目录, 拷贝配置文件模板到此目录
[root@db5 redis-2.4.14]# mkdir /opt/redis2.4.14/etc
[root@db5 redis-2.4.14]# cp $redis-2.4.14/redis.conf /opt/redis2.4.14/etc/


创建数据文件备份目录
mkdir /opt/redis2.4.14/rdb


修改内核参数
[root@db5 etc]# sysctl -w vm.overcommit_memory=1
vi /etc/sysctl.conf
vm.overcommit_memory = 1


修改过的配置文件内容 : 
daemonize yes
pidfile /opt/redis2.4.14/redis.pid
bind 127.0.0.1
unixsocket /opt/redis2.4.14/redis.sock
unixsocketperm 755
logfile /var/log/redis.log
dir /opt/redis2.4.14/rdb/


所有内容 : 
daemonize yes
pidfile /opt/redis2.4.14/redis.pid
port 6379
bind 127.0.0.1
unixsocket /opt/redis2.4.14/redis.sock
unixsocketperm 755
timeout 0
loglevel verbose
logfile /var/log/redis.log
databases 16
save 900 1
save 300 10
save 60 10000
rdbcompression yes
dbfilename dump.rdb
dir /opt/redis2.4.14/rdb/
slave-serve-stale-data yes
appendonly no
appendfsync everysec
no-appendfsync-on-rewrite no
auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb
slowlog-log-slower-than 10000
slowlog-max-len 128
vm-enabled no
vm-swap-file /tmp/redis.swap
vm-max-memory 0
vm-page-size 32
vm-pages 134217728
vm-max-threads 4
hash-max-zipmap-entries 512
hash-max-zipmap-value 64
list-max-ziplist-entries 512
list-max-ziplist-value 64
set-max-intset-entries 512
zset-max-ziplist-entries 128
zset-max-ziplist-value 64
activerehashing yes


启动redis
redis-server /opt/redis2.4.14/etc/redis.conf


3. 测试lpush和rpop
测试8个客户端同时push 总共1亿个value到一个list, 使用pipeline.
[root@db5 ruby]# cat lpush.rb 
#!/usr/local/rvm/bin/ruby

require "rubygems"
require "redis"
require "date"
rb = Redis.new

mylist = Array.new
name = "l1"
rb.del(name)

(1..100).each do
  mylist.push("abcdefghijklmnopqrstuvwxyz0123456789")
end

p DateTime.now
(1..125000).each do
  rb.lpush(name,x)
end
p DateTime.now


测试8个客户端同时从1个list 取1亿个value
[root@db5 ruby]# cat rpop.rb
#!/usr/local/rvm/bin/ruby

require "rubygems"
require "redis"
require "date"
rb = Redis.new

name = "l1"

p DateTime.now
(0..12500000).each do
  rb.rpop(name)
end
p DateTime.now


测试用的shell脚本
[root@db5 ruby]# cat test.sh 
#!/bin/bash

lpush() {
for((i=1;i<=8;i++)) 
do
  ruby ./lpush.rb >./lpush_$i.log 2>&1 &
done
}

rpop() {
for((i=1;i<=8;i++)) 
do
  ruby ./rpop.rb >./rpop_$i.log 2>&1 &
done
}

case "$1" in
  lpush)
        lpush
        ;;
  rpop)
        rpop
        ;;
  *)
        echo $"Usage: $prog {lpush|rpop}"
        exit 0
esac


4. lpush和rpop测试结果
[root@db5 ruby]# . ./test.sh lpush
完成时间95秒.
占用8.94GB内存
每秒插入105万个value, 处理13万次lpush请求.

[root@db5 ruby]# . ./test.sh rpop
完成时间2300秒.
每秒处理43478次rpop请求.


5. rpush和lpop的测试结果
脚本与前面类似, 不再重复.
[root@db5 ruby]# . ./test.sh rpush 
完成时间93秒.
占用8.94GB内存

[root@db5 ruby]# . ./test.sh lpop
完成时间3300秒.


6. 测试8个key的情况, pop的时候从8个key同时取出.
redis 127.0.0.1:6379> keys *
1) "l7"
2) "l8"
3) "l1"
4) "l2"
5) "l3"
6) "l4"
7) "l5"
8) "l6"


脚本
lpop.rb :
[root@db5 ruby]# cat lpop1.rb 
#!/usr/local/rvm/bin/ruby

require "rubygems"
require "redis"
require "date"
rb = Redis.new

name = "l"+ARGV[0]

p DateTime.now
(0..12500000).each do
  rb.lpop(name)
end
p DateTime.now


rpush.rb : 
[root@db5 ruby]# cat rpush1.rb 
#!/usr/local/rvm/bin/ruby

require "rubygems"
require "redis"
require "date"
rb = Redis.new

mylist = Array.new
name = "l"+ARGV[0]
rb.del(name)

(1..100).each do
  mylist.push("abcdefghijklmnopqrstuvwxyz0123456789")
end

p DateTime.now
(1..125000).each do
  rb.rpush(name,mylist)
end
p DateTime.now

test.sh :
[root@db5 ruby]# cat test.sh 
#!/bin/bash

rpush() {
for((i=1;i<=8;i++)) 
do
  ruby ./rpush.rb $i >./rpush_$i.log 2>&1 &
done
}

lpop() {
for((i=1;i<=8;i++)) 
do
  ruby ./lpop.rb $i >./lpop_$i.log 2>&1 &
done
}

case "$1" in
  rpush)
        rpush
        ;;
  lpop)
        lpop
        ;;
  *)
        echo $"Usage: $prog {rpush|lpop}"
        exit 0
esac


测试结果 : 
[root@db5 ruby]# . ./test.sh rpush
完成时间93秒.
占用8.94GB内存

[root@db5 ruby]# . ./test.sh lpop
完成时间3000秒.


【小结】
1. 使用1个key和多个key操作push和pop性能基本一致. 多key的情况下pop略快.

【参考】
1.  redis.io
2. redis-rb的源码 : 
3. 使用pipeline
参考代码
name = "toto"
mylist = [ 1,2,3,4,5 ]
$redis.pipelined{ mylist.each{ |x| $redis.lpush(name,x) } }

相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore &nbsp; &nbsp; ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库&nbsp;ECS 实例和一台目标数据库&nbsp;RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&amp;RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
相关文章
|
4月前
|
消息中间件 NoSQL Redis
redis数据结构-List
redis数据结构-List
47 1
|
1月前
|
存储 消息中间件 NoSQL
Redis数据结构:List类型全面解析
Redis数据结构——List类型全面解析:存储多个有序的字符串,列表中每个字符串成为元素 Eelement,最多可以存储 2^32-1 个元素。可对列表两端插入(push)和弹出(pop)、获取指定范围的元素列表等,常见命令。 底层数据结构:3.2版本之前,底层采用**压缩链表ZipList**和**双向链表LinkedList**;3.2版本之后,底层数据结构为**快速链表QuickList** 列表是一种比较灵活的数据结构,可以充当栈、队列、阻塞队列,在实际开发中有很多应用场景。
|
2月前
|
NoSQL 关系型数据库 MySQL
Redis 列表(List)
10月更文挑战第16天
24 2
|
2月前
|
消息中间件 存储 监控
redis 的List类型 实现 排行榜
【10月更文挑战第8天】
39 2
|
3月前
|
消息中间件 存储 NoSQL
剖析 Redis List 消息队列的三种消费线程模型
Redis 列表(List)是一种简单的字符串列表,它的底层实现是一个双向链表。 生产环境,很多公司都将 Redis 列表应用于轻量级消息队列 。这篇文章,我们聊聊如何使用 List 命令实现消息队列的功能以及剖析消费者线程模型 。
99 20
剖析 Redis List 消息队列的三种消费线程模型
|
2月前
|
存储 分布式计算 NoSQL
大数据-40 Redis 类型集合 string list set sorted hash 指令列表 执行结果 附截图
大数据-40 Redis 类型集合 string list set sorted hash 指令列表 执行结果 附截图
27 3
|
3月前
|
消息中间件 存储 NoSQL
4)深度解密 Redis 的列表(List)
4)深度解密 Redis 的列表(List)
34 1
|
3月前
|
存储 JSON NoSQL
redis基本数据结构(String,Hash,Set,List,SortedSet)【学习笔记】
这篇文章是关于Redis基本数据结构的学习笔记,包括了String、Hash、Set、List和SortedSet的介绍和常用命令。文章解释了每种数据结构的特点和使用场景,并通过命令示例演示了如何在Redis中操作这些数据结构。此外,还提供了一些练习示例,帮助读者更好地理解和应用这些数据结构。
redis基本数据结构(String,Hash,Set,List,SortedSet)【学习笔记】
|
4月前
|
存储 NoSQL 算法
Redis6入门到实战------ 三、常用五大数据类型(列表(List)、集合(Set)、哈希(Hash)、Zset(sorted set))
这是关于Redis 6入门到实战的文章,具体内容涉及Redis的五大数据类型:列表(List)、集合(Set)、哈希(Hash)、有序集合(Zset(sorted set))。文章详细介绍了这些数据类型的特点、常用命令以及它们背后的数据结构。如果您有任何关于Redis的具体问题或需要进一步的帮助,请随时告诉我。
|
5月前
|
NoSQL 编译器 Redis
c++开发redis module问题之如果Redis加载了多个C++编写的模块,并且它们都重载了operator new,会有什么影响
c++开发redis module问题之如果Redis加载了多个C++编写的模块,并且它们都重载了operator new,会有什么影响