数据搬运工DSS~介绍

简介:

DSS介绍

DSS是为了实现异地数据同步而开发的一套.net平台的应用程序,它寄宿到windows服务上,由多个客户端和一个服务端组成,其中客户端用来收集数据(数据源端),服务端用来将数据写入指定数据库(数据目的端),整个数据传输的过程采用socket来实现,数据量单次在200K左右,保证了传输的性能;在服务端通过仓储大叔的CacheQueue队列组件来解决高并发的问题,队列为了便于后台维护,采用了文件存储的方式。

DSS系统架构图

DSS数据一致性的设计

DSS解决方案图

DSS为每个客户端配置一个单独的端口,减少数据冲突

<socketServer>
    <servers>
      <!-- maxMessageSize:1000K,socketBufferSize:8192,缓冲区指处理多少字节后进行真实的处理,如写文件写库等-->
      <server name="client1"
              port="8403"
              socketBufferSize="819200"
              messageBufferSize="819200"
              maxMessageSize="10240000"
              maxConnections="200000"
              serviceType="Tsingda.DSS.Server.ListeningService.Application.DSSCommandManager, Tsingda.DSS.Server.ListeningService.Application"
              protocol="dssBinary"/>
      <server name="client2"
              port="8402"
              socketBufferSize="819200"
              messageBufferSize="819200"
              maxMessageSize="10240000"
              maxConnections="200000"
              serviceType="Tsingda.DSS.Server.ListeningService.Application.DSSCommandManager, Tsingda.DSS.Server.ListeningService.Application"
              protocol="dssBinary"/>
      <server name="strCmd"
             port="8404"
             socketBufferSize="8192"
             messageBufferSize="8192"
             maxMessageSize="102400"
             maxConnections="20000"
             serviceType="Tsingda.DSS.Server.ListeningService.Application.StringCommandManager, Tsingda.DSS.Server.ListeningService.Application"
             protocol="asyncBinary"/>
    </servers>
  </socketServer>

好了,对于数据搬运工就介绍到这里,下次我们将分析一下源代码的实现!

本文转自博客园张占岭(仓储大叔)的博客,原文链接:数据搬运工DSS~介绍,如需转载请自行联系原博主。

目录
相关文章
|
5月前
|
安全 算法 数据安全/隐私保护
数据保护新纪元!Python加密解密技术,让信息安全飞入寻常百姓家
【8月更文挑战第1天】随着数字化发展,数据安全成为关键议题。Python以其易用性和强大的库支持,使得加密技术平民化。通过`hashlib`库实现的哈希加密确保数据完整性;利用`pycryptodome`实现的AES对称加密提供高效保护;而RSA等非对称加密则解决了密钥安全分发问题。Python让加密技术变得触手可及,助力守护每个人的数字世界。
77 2
|
Linux 数据安全/隐私保护
带你读《商用密码技术最佳实践白皮书》——文件加密(fscrypt)(1)
带你读《商用密码技术最佳实践白皮书》——文件加密(fscrypt)(1)
195 0
|
Linux 数据安全/隐私保护
带你读《商用密码技术最佳实践白皮书》——文件加密(fscrypt)(2)
带你读《商用密码技术最佳实践白皮书》——文件加密(fscrypt)(2)
140 0
|
算法 数据安全/隐私保护
带你读《商用密码技术最佳实践白皮书》——同态算法(1)
带你读《商用密码技术最佳实践白皮书》——同态算法(1)
160 0
|
算法 数据安全/隐私保护
带你读《商用密码技术最佳实践白皮书》——同态算法(2)
带你读《商用密码技术最佳实践白皮书》——同态算法(2)
|
数据安全/隐私保护
带你读《商用密码技术最佳实践白皮书》——证书压缩(RFC 8879)
带你读《商用密码技术最佳实践白皮书》——证书压缩(RFC 8879)
118 0
|
安全 iOS开发
PCI DSS 2.0标准出炉 未涉及移动支付技术
PCI安全标准委员会在10月28日下午发布了PCI DSS(支付卡行业数据安全标准)第二版。PCI安全标准委员会负责制定商家和服务提供商处理敏感的持卡人数据的网络和安全标准。 据PCI安全标准委员会总经理Bob Russo说,新标准对于目前的PCI DSS 1.2版标准没有重大的修改。
1096 0
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等