Dubbo分布式架构实战--FastDFS分布式文件系统的安装与使用(单节点)

本文涉及的产品
云防火墙,500元 1000GB
简介:

跟踪服务器:192.168.4.121 (edu-dfs-tracker-01)

存储服务器:192.168.4.125 (edu-dfs-storage-01)

环境:CentOS 6.6

用户:root                                                   

数据目录:/fastdfs   注:数据目录按你的数据盘挂载路径而定

安装包:

FastDFS v5.05

libfastcommon-master.zip(是从FastDFS和FastDHT中提取出来的公共C函数库)

fastdfs-nginx-module_v1.16.tar.gz

nginx-1.6.2.tar.gz

fastdfs_client_java._v1.25.tar.gz


源码地址:https://github.com/happyfish100/

下载地址:http://sourceforge.net/projects/fastdfs/files/

官方论坛:http://bbs.chinaunix.net/forum-240-1.html

 

 

一、所有跟踪服务器和存储服务器均执行如下操作


1、编译和安装所需的依赖包:

yum install make cmake gcc gcc-c++

 

2、安装libfastcommon:

(1)上传或下载libfastcommon-master.zip到/usr/local/src目录

(2)解压

cd /usr/local/src/

unzip libfastcommon-master.zip

cd libfastcommon-master

face/XAAxZGWWhfHxMEyYhQC5zQ54KDxjamFb.png                                             


(3) 编译、安装

./make.sh

./make.sh install

libfastcommon默认安装到了

/usr/lib64/libfastcommon.so

/usr/lib64/libfdfsclient.so


(4)因为FastDFS主程序设置的lib目录是/usr/local/lib,所以需要创建软链接.

ln -s /usr/lib64/libfastcommon.so /usr/local/lib/libfastcommon.so

ln -s /usr/lib64/libfastcommon.so /usr/lib/libfastcommon.so

ln -s /usr/lib64/libfdfsclient.so /usr/local/lib/libfdfsclient.so

# ln -s /usr/lib64/libfdfsclient.so /usr/lib/libfdfsclient.so

 

3、安装FastDFS

(1)上传或下载FastDFS源码包(FastDFS_v5.05.tar.gz)到 /usr/local/src 目录

(2)解压

cd /usr/local/src/

tar -zxvf FastDFS_v5.05.tar.gz

cd FastDFS

face/5YpGBd7TrkKeCbesktrQicknsJ6hnHBi.png


(3)编译、安装(编译前要确保已经成功安装了libfastcommon)

./make.sh

./make.sh install

 

采用默认安装的方式安装,安装后的相应文件与目录:

A、服务脚本在:

/etc/init.d/fdfs_storaged

/etc/init.d/fdfs_tracker

     B、配置文件在(样例配置文件):

          /etc/fdfs/client.conf.sample

/etc/fdfs/storage.conf.sample

/etc/fdfs/tracker.conf.sample

     C、命令工具在/usr/bin/目录下的:

fdfs_appender_test

fdfs_appender_test1

fdfs_append_file

fdfs_crc32

fdfs_delete_file

fdfs_download_file

fdfs_file_info

fdfs_monitor

fdfs_storaged

fdfs_test

fdfs_test1

fdfs_trackerd

fdfs_upload_appender

fdfs_upload_file

stop.sh

restart.sh

 

(4)因为FastDFS服务脚本设置的bin目录是/usr/local/bin,但实际命令安装在/usr/bin,可以进入

/user/bin目录使用以下命令查看fdfs的相关命令:

   # cd /usr/bin/

   # ls | grep fdfs

face/JB4HFtzPi2jSW4f7CYwGKXnJ3ifhk8KG.png

因此需要修改FastDFS服务脚本中相应的命令路径,也就是把/etc/init.d/fdfs_storaged

/etc/init.d/fdfs_tracker两个脚本中的/usr/local/bin修改成/usr/bin

vi fdfs_trackerd

使用查找替换命令进统一修改:%s+/usr/local/bin+/usr/bin

vi fdfs_storaged

使用查找替换命令进统一修改:%s+/usr/local/bin+/usr/bin

 

二、配置FastDFS跟踪器(192.168.4.121)

1、  复制FastDFS跟踪器样例配置文件,并重命名:

cd /etc/fdfs/

face/JXSYAcdBwxH4cwwGnPasiBrt8mEDGXnp.png

cp tracker.conf.sample tracker.conf

 

2、  编辑跟踪器配置文件:

vi /etc/fdfs/tracker.conf

修改的内容如下:

disabled=false

port=22122

base_path=/fastdfs/tracker

其它参数保留默认配置,具体配置解释请参考官方文档说明:

http://bbs.chinaunix.net/thread-1941456-1-1.html 

 

3、  创建基础数据目录(参考基础目录base_path配置):

mkdir -p /fastdfs/tracker

 

4、  防火墙中打开跟踪器端口(默认为22122):

vi /etc/sysconfig/iptables

添加如下端口行:

-A INPUT -m state --state NEW -m tcp -p tcp --dport 22122 -j ACCEPT

重启防火墙:

service iptables restart

 

5、  启动Tracker:

/etc/init.d/fdfs_trackerd start

初次成功启动,会在/fastdfs/tracker目录下创建data、logs两个目录

查看FastDFS Tracker是否已成功启动:

ps -ef | grep fdfs

face/psXP36j7wYdXtcfp7cF7fwhxyeJ6f74r.png

 

6、  关闭Tracker:

/etc/init.d/fdfs_trackerd stop

 

7、  设置FastDFS跟踪器开机启动:

vi /etc/rc.d/rc.local

添加以下内容:

## FastDFS Tracker

/etc/init.d/fdfs_trackerd start

 

三、配置FastDFS存储(192.168.4.125)

1、  复制FastDFS存储器样例配置文件,并重命名:

cd /etc/fdfs/

face/8c5hXTX4i66yZpHdBwThhsTaWfTDmcsB.png

cp storage.conf.sample storage.conf

 

2、  编辑存储器样例配置文件:

vi /etc/fdfs/storage.conf

修改的内容如下:

disabled=false

port=23000

base_path=/fastdfs/storage

store_path0=/fastdfs/storage

tracker_server=192.168.4.121:22122

http.server_port=8888

其它参数保留默认配置,具体配置解释请参考官方文档说明:

http://bbs.chinaunix.net/thread-1941456-1-1.html 

 

3、  创建基础数据目录(参考基础目录base_path配置):

mkdir -p /fastdfs/storage

 

4、  防火墙中打开存储器端口(默认为23000):

vi /etc/sysconfig/iptables

添加如下端口行:

-A INPUT -m state --state NEW -m tcp -p tcp --dport 23000 -j ACCEPT

重启防火墙:

service iptables restart

 

5、  启动Storage:

/etc/init.d/fdfs_storaged start

初次成功启动,会在/fastdfs/storage目录下创建data、logs两个目录

查看FastDFS Storage是否已成功启动

ps -ef | grep fdfs

face/JzFDGznKMK5b2emtrBKjfFJBmxMyaRwn.png

 

6、  关闭Storage:

/etc/init.d/fdfs_storaged stop

 

7、  设置FastDFS存储器开机启动:

vi /etc/rc.d/rc.local

添加:

## FastDFS Storage

/etc/init.d/fdfs_storaged start

 

四、文件上传测试(192.168.4.121)


1、修改Tracker服务器中的客户端配置文件:

     # cp /etc/fdfs/client.conf.sample /etc/fdfs/client.conf

     # vi /etc/fdfs/client.conf

     base_path=/fastdfs/tracker

tracker_server=192.168.4.121:22122

 

2、执行如下文件上传命令:

     # /usr/bin/fdfs_upload_file /etc/fdfs/client.conf /usr/local/src/FastDFS_v5.05.tar.gz

     返回ID号:group1/M00/00/00/wKgEfVUYNYeAb7XFAAVFOL7FJU4.tar.gz

     (能返回以上文件ID,说明文件上传成功)

 

五、在每个存储节点上安装nginx

1、fastdfs-nginx-module作用说明

FastDFS通过Tracker服务器,将文件放在Storage服务器存储,但是同组存储服务器之间需要进入文件复制,有同步延迟的问题。假设Tracker服务器将文件上传到了192.168.4.125,上传成功后文件ID已经返回给客户端。此时FastDFS存储集群机制会将这个文件同步到同组存储192.168.4.126,在文件还没有复制完成的情况下,客户端如果用这个文件ID在192.168.4.126上取文件,就会出现文件无法访问的错误。而fastdfs-nginx-module可以重定向文件连接到源服务器取文件,避免客户端由于复制延迟导致的文件无法访问错误。(解压后的fastdfs-nginx-module在nginx安装时使用)

 

2、上传fastdfs-nginx-module_v1.16.tar.gz到/usr/local/src

 

3、解压

cd /usr/local/src/

tar -zxvf fastdfs-nginx-module_v1.16.tar.gz

 

4、修改fastdfs-nginx-module的config配置文件

cd fastdfs-nginx-module/src

     # vi config

CORE_INCS="$CORE_INCS /usr/local/include/fastdfs /usr/local/include/fastcommon/"

修改为:

CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"

     (注意:这个路径修改是很重要的,不然在nginx编译的时候会报错的

 

5、上传当前的稳定版本Nginx(nginx-1.6.2.tar.gz)到/usr/local/src目录

 

6、安装编译Nginx所需的依赖包

     # yum install gcc gcc-c++ make automake autoconf libtool pcre* zlib openssl openssl-devel

 

7、编译安装Nginx(添加fastdfs-nginx-module模块)

     # cd /usr/local/src/

     tar -zxvf nginx-1.6.2.tar.gz

# cd nginx-1.6.2

./configure --add-module=/usr/local/src/fastdfs-nginx-module/src

     # make && make install

 

8、复制fastdfs-nginx-module源码中的配置文件到/etc/fdfs目录,并修改

cp /usr/local/src/fastdfs-nginx-module/src/mod_fastdfs.conf /etc/fdfs/

     # vi /etc/fdfs/mod_fastdfs.conf

     修改以下配置:

connect_timeout=10

base_path=/tmp

tracker_server=192.168.4.121:22122

     storage_server_port=23000

     group_name=group1

     url_have_group_name = true

store_path0=/fastdfs/storage

 

9、复制FastDFS的部分配置文件到/etc/fdfs目录

     # cd /usr/local/src/FastDFS/conf

cp http.conf mime.types /etc/fdfs/

 

10、在/fastdfs/storage文件存储目录下创建软连接,将其链接到实际存放数据的目录

     # ln -s /fastdfs/storage/data/ /fastdfs/storage/data/M00

 

11、配置Nginx

简洁版nginx配置样例:

user  root;

worker_processes  1;

events {

    worker_connections  1024;

}

http {

    include       mime.types;

    default_type  application/octet-stream;

    sendfile        on;

    keepalive_timeout  65;

    server {

        listen       8888;

        server_name  localhost;

        location ~/group([0-9])/M00 {

            #alias /fastdfs/storage/data;

            ngx_fastdfs_module;

        }

        error_page   500 502 503 504  /50x.html;

        location = /50x.html {

            root   html;

        }

    }

}

注意、说明

A、8888端口值是要与/etc/fdfs/storage.conf中的http.server_port=8888 相对应,

因为http.server_port默认为8888,如果想改成80,则要对应修改过来。

B、Storage对应有多个group的情况下,访问路径带group名,如/group1/M00/00/00/xxx,

对应的Nginx配置为:

location ~/group([0-9])/M00 {

          ngx_fastdfs_module;

}

C、如查下载时如发现老报404,将nginx.conf第一行user nobody修改为user root后重新启动。

 

12、防火墙中打开Nginx的8888端口

     # vi /etc/sysconfig/iptables

     添加:

     -A INPUT -m state --state NEW -m tcp -p tcp --dport 8888 -j ACCEPT

     # service iptables restart

 

13、启动Nginx

     # /usr/local/nginx/sbin/nginx

     ngx_http_fastdfs_set pid=xxx

     (重启Nginx的命令为:/usr/local/nginx/sbin/nginx -s reload

 

14、通过浏览器访问测试时上传的文件基于Dubbo的分布式系统架构实战

     http://192.168.4.125:8888/group1/M00/00/00/wKgEfVUYNYeAb7XFAAVFOL7FJU4.tar.gz

 

六、FastDFS的使用的Demo样例讲解与演示:


具体内容请参考样例代码和视频教程

 

 

注意:千万不要使用kill -9命令强杀FastDFS进程,否则可能会导致binlog数据丢失。

目录
相关文章
|
3月前
|
监控 Java API
Spring Boot 3.2 结合 Spring Cloud 微服务架构实操指南 现代分布式应用系统构建实战教程
Spring Boot 3.2 + Spring Cloud 2023.0 微服务架构实践摘要 本文基于Spring Boot 3.2.5和Spring Cloud 2023.0.1最新稳定版本,演示现代微服务架构的构建过程。主要内容包括: 技术栈选择:采用Spring Cloud Netflix Eureka 4.1.0作为服务注册中心,Resilience4j 2.1.0替代Hystrix实现熔断机制,配合OpenFeign和Gateway等组件。 核心实操步骤: 搭建Eureka注册中心服务 构建商品
674 3
|
4月前
|
人工智能 Kubernetes 数据可视化
Kubernetes下的分布式采集系统设计与实战:趋势监测失效引发的架构进化
本文回顾了一次关键词监测任务在容器集群中失效的全过程,分析了中转IP复用、调度节奏和异常处理等隐性风险,并提出通过解耦架构、动态IP分发和行为模拟优化采集策略,最终实现稳定高效的数据抓取与分析。
Kubernetes下的分布式采集系统设计与实战:趋势监测失效引发的架构进化
|
1月前
|
缓存 Cloud Native 中间件
《聊聊分布式》从单体到分布式:电商系统架构演进之路
本文系统阐述了电商平台从单体到分布式架构的演进历程,剖析了单体架构的局限性与分布式架构的优势,结合淘宝、京东等真实案例,深入探讨了服务拆分、数据库分片、中间件体系等关键技术实践,并总结了渐进式迁移策略与核心经验,为大型应用架构升级提供了全面参考。
|
1月前
|
Java Linux 虚拟化
【Docker】(1)Docker的概述与架构,手把手带你安装Docker,云原生路上不可缺少的一门技术!
1. Docker简介 1.1 Docker是什么 为什么docker会出现? 假定您在开发一款平台项目,您的开发环境具有特定的配置。其他开发人员身处的环境配置也各有不同。 您正在开发的应用依赖于您当前的配置且还要依赖于某些配置文件。 您的企业还拥有标准化的测试和生产环境,且具有自身的配置和一系列支持文件。 **要求:**希望尽可能多在本地模拟这些环境而不产生重新创建服务器环境的开销 问题: 要如何确保应用能够在这些环境中运行和通过质量检测? 在部署过程中不出现令人头疼的版本、配置问题 无需重新编写代码和进行故障修复
327 2
|
1月前
|
存储 NoSQL 前端开发
【赵渝强老师】MongoDB的分布式存储架构
MongoDB分片通过将数据分布到多台服务器,实现海量数据的高效存储与读写。其架构包含路由、配置服务器和分片服务器,支持水平扩展,结合复制集保障高可用性,适用于大规模生产环境。
264 1
|
7月前
|
人工智能 安全 Java
智慧工地源码,Java语言开发,微服务架构,支持分布式和集群部署,多端覆盖
智慧工地是“互联网+建筑工地”的创新模式,基于物联网、移动互联网、BIM、大数据、人工智能等技术,实现对施工现场人员、设备、材料、安全等环节的智能化管理。其解决方案涵盖数据大屏、移动APP和PC管理端,采用高性能Java微服务架构,支持分布式与集群部署,结合Redis、消息队列等技术确保系统稳定高效。通过大数据驱动决策、物联网实时监测预警及AI智能视频监控,消除数据孤岛,提升项目可控性与安全性。智慧工地提供专家级远程管理服务,助力施工质量和安全管理升级,同时依托可扩展平台、多端应用和丰富设备接口,满足多样化需求,推动建筑行业数字化转型。
272 5
|
2月前
|
消息中间件 缓存 监控
中间件架构设计与实践:构建高性能分布式系统的核心基石
摘要 本文系统探讨了中间件技术及其在分布式系统中的核心价值。作者首先定义了中间件作为连接系统组件的"神经网络",强调其在数据传输、系统稳定性和扩展性中的关键作用。随后详细分类了中间件体系,包括通信中间件(如RabbitMQ/Kafka)、数据中间件(如Redis/MyCAT)等类型。文章重点剖析了消息中间件的实现机制,通过Spring Boot代码示例展示了消息生产者的完整实现,涵盖消息ID生成、持久化、批量发送及重试机制等关键技术点。最后,作者指出中间件架构设计对系统性能的决定性影响,
|
5月前
|
监控 算法 关系型数据库
分布式事务难题终结:Seata+DRDS全局事务一致性架构设计
在分布式系统中,CAP定理限制了可用性、一致性与分区容错的三者兼得,尤其在网络分区时需做出取舍。为应对这一挑战,最终一致性方案成为常见选择。以电商订单系统为例,微服务化后,原本的本地事务演变为跨数据库的分布式事务,暴露出全局锁失效、事务边界模糊及协议差异等问题。本文深入探讨了基于 Seata 与 DRDS 的分布式事务解决方案,涵盖 AT 模式实践、分片策略优化、典型问题处理、性能调优及高级特性实现,结合实际业务场景提供可落地的技术路径与架构设计原则。通过压测验证,该方案在事务延迟、TPS 及失败率等方面均取得显著优化效果。
330 61
|
6月前
|
监控 Linux 应用服务中间件
Linux多节点多硬盘部署MinIO:分布式MinIO集群部署指南搭建高可用架构实践
通过以上步骤,已成功基于已有的 MinIO 服务,扩展为一个 MinIO 集群。该集群具有高可用性和容错性,适合生产环境使用。如果有任何问题,请检查日志或参考MinIO 官方文档。作者联系方式vx:2743642415。
2178 57
|
10月前
|
存储 缓存 NoSQL
分布式系统架构8:分布式缓存
本文介绍了分布式缓存的理论知识及Redis集群的应用,探讨了AP与CP的区别,Redis作为AP系统具备高性能和高可用性但不保证强一致性。文章还讲解了透明多级缓存(TMC)的概念及其优缺点,并详细分析了memcached和Redis的分布式实现方案。此外,针对缓存穿透、击穿、雪崩和污染等常见问题提供了应对策略,强调了Cache Aside模式在解决数据一致性方面的作用。最后指出,面试中关于缓存的问题多围绕Redis展开,建议深入学习相关知识点。
708 8

热门文章

最新文章

下一篇
oss云网关配置