有一个项目,开始用内存映射读取GB或TB级别的数据,通过多线程运算一个矩阵和自身转置矩阵的乘积并且取逆,我要完成的部分是将GB级别的数据写到硬盘中,请问各位大神有什么好的想法或者方向提供,感谢!
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
同样用内存映射的方法写入就完了######
分批写入
######我觉得你应该考虑下现成的开源解决方案—— apache ignite,符合你的需求,内存的数据网络和计算网络,高度集群化,支持异步读写,支持write through和read through,而且还有持久化的功能