01 引言

JuiceFS 是一款开源的分布式文件系统，它为云环境设计，兼容 POSIX、HDFS 和 S3 协议的分布式文件系统。

• 官网地址：https://www.juicefs.com/zh-cn/
• Github地址：https://github.com/juicedata/juicefs

02 JuiceFS为何物？

JuiceFS 是一款面向云原生设计的高性能共享文件系统，在 Apache 2.0 开源协议下发布。

2.1 JuiceFS的特点

2.1.1 兼容性

JuiceFS提供完备的 POSIX 兼容性，可将几乎所有对象存储接入本地作为海量本地磁盘使用，亦可同时在跨平台、跨地区的不同主机上挂载读写。

2.1.2 丰富的API

JuiceFS 提供了丰富的 API，适用于各种形式数据的管理、分析、归档、备份，可以在不修改代码的前提下无缝对接大数据、机器学习、人工智能等应用平台，为其提供海量、弹性、低价的高性能存储。

2.1.3 特性总结

2.2 不同的使用场景举例

场景一：像本地磁盘一样使用

# 格式化JuiceFS文件系统
> juicefs format redis://your-redis-host:6379/1 myjfs

# 挂载JuiceFS文件系统
> juicefs mount -d redis://your-redis-host:6379/1 /mnt/juicefs

# 检查挂载点状态
> df -h /mnt/juicefs
Filesystem      Size   Used  Avail Capacity iused    ifree %iused  Mounted on
JuiceFS:myjfs  1.0Pi    0Bi  1.0Pi     0%       0 10485760    0%   /mnt/juicefs

#  从home目录挂载数据集到JuiceFS
> cp -r ~/dataset /mnt/juicefs/

场景二：应用开发简单，无需SDK

# Python 例子
path = '/mnt/juicefs/dataset/days.txt'
days_file = open(path, 'r')
days = days_file.read()

new_path = '/mnt/juicefs/new_days.txt'
new_days = open(new_path, 'w')

title = 'Days of the Week\n'
new_days.write(title)
print(title)

new_days.write(days)
print(days)

days_file.close()
new_days.close()

场景三：最简单，最适合K8S PV

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: web-pvc
spec:
  accessModes:
    - ReadWriteMany
  resources:
    requests:
      storage: 10Pi
  storageClassName: juicefs-sc
---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: nginx-run
spec:
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      labels:
        app: nginx
    spec:
      containers:
        - name: nginx
          image: linuxserver/nginx
          ports:
            - containerPort: 80
          volumeMounts:
            - mountPath: /config
              name: web-data
      volumes:
        - name: web-data
          persistentVolumeClaim:
            claimName: web-pvc

> kubectl get sc
NAME                 PROVISIONER                RECLAIMPOLICY   VOLUMEBINDINGMODE   ALLOWVOLUMEEXPANSION   AGE
juicefs-sc           csi.juicefs.com            Retain          Immediate           false                  88m

场景四：完全兼容 HDFS，使用方法也一样

# Shell
> hadoop fs -ls jfs://myjfs

# Hive
CREATE TABLE IF NOT EXISTS person
(
  name STRING,
  age INT
) LOCATION 'jfs://myjfs/tmp/person';

场景五：通过 S3 API 访问 JuiceFS

# 为JuiceFS文件系统开启S3网关
> juicefs gateway redis://localhost:6379/1 localhost:9000

# 通过AWS命令行连接访问JuiceFS文件系统
> aws --endpoint-url http://localhost:9000 s3 ls s3://myjfs

03 JuiceFS技术架构

首先贴出JuiceFS官网的技术架构图：

3.1 JuiceFS 的三个技术层

从上图，我们可以看到JuiceFS分为了三层，从上往下依次为：

这里主要讲下JuiceFS在 Client客户端层面 的文件系统接口的技术实现：

• 通过 FUSE，JuiceFS 文件系统能够以 POSIX 兼容的方式挂载到服务器，将海量云端存储直接当做本地存储来使用；
• 通过 Hadoop Java SDK，JuiceFS 文件系统能够直接替代 HDFS，为 Hadoop 提供低成本的海量存储；
• 通过 Kubernetes CSI Driver，JuiceFS 文件系统能够直接为 Kubernetes 提供海量存储；
• 通过 S3 Gateway，使用 S3 作为存储层的应用可直接接入，同时可使用 AWS CLI、s3cmd、MinIO client 等工具访问 JuiceFS 文件系统；
• 通过 WebDAV Server，使用 HTTP 协议接入 JuiceFS 并直接操作其中的文件。

3.2 JuiceFS 如何存储文件

任何存入 JuiceFS 的文件都会被拆分成固定大小的 "Chunk"（默认的容量上限是 64 MiB）

1. 每个 Chunk 由一个或多个 "Slice" 组成，Slice 的长度不固定，取决于文件写入的方式；
2. 每个 Slice 又会被进一步拆分成固定大小的 "Block"（默认为 4 MiB）；
3. 最后，这些 Block 会被存储到对象存储；
4. 同时，JuiceFS 会将每个文件以及它的 Chunks、Slices、Blocks 等元数据信息存储在元数据引擎中。

文件最终会被拆分成 Chunks、Slices 和 Blocks 存储在对象存储，存储桶中只有一个 chunks 目录和一堆数字编号的目录和文件，如下图：

04 JuiceFS实战

step1: 客户端安装

去Github下载最新的客户端：https://github.com/juicedata/juicefs/releases

注意版本与操作系统的对应关系如下：

如果assets资源文件里面没有内容，加载不出来，可以通过来查询下载资源的地址： https://api.github.com/repos/juicedata/juicefs/releases/latest

当然也可以使用命令安装，会根据硬件架构自动下载安装最新版 JuiceFS 客户端：

curl -sSL https://d.juicefs.com/install | sh -

下载完成后，解压，使用命令：

juicefs version

可以看到已经安装好了。

step2: 创建文件系统

创建名为 miniofs 的文件系统，使用 Redis 的 1 号数据库存储元数据：

juicefs format \
    --storage minio \
    --bucket http://endpoint地址:端口/rtc \
    --access-key minio的access-key \
    --secret-key minio的secret-key \
    "redis://:redis密码@redis地址:redis端口/数据库编号" \
    miniofs

在Redis数据库，可以看到key为settings的内容如下：

同时登录MinIO，在buck1桶下，可以看到创建了一些目录：

step3: 挂载文件系统

我们可以挂载文件目录到本地的桌面的data目录（如果提示没有权限，建议命令前加上sudo）：

juicefs mount  "redis://:redis密码@redis地址:redis端口/数据库编号" /桌面地址/data

可以看到报错了，提示：

juicefs[89168] : fuse: fuse: no FUSE mount utility found [mount_unix.go:184]

这是由于系统没有安装FUSE 模块模块，所以需要下载安装，macOS系统下载地址：https://osxfuse.github.io/

安装好后，继续执行命令，也报错了，提示：

juicefs[92350] : The mount point is not ready in 10 seconds, exit it [mount_unix.go:56]

解决方式，打开安全性与隐私，解锁后，点击下图红框的运行。

继续执行命令，可以看到挂载成功了：

step4: 开始使用

详细使用参考： https://www.juicefs.com/docs/zh/community/guide/sync/

当JuiceFS挂载好之后，我们可以正式的使用JuiceFS了，下面举个例子，使用同步命令，把MinIO里面的内容同步到本地的桌面的data目录，命令如下：

juicefs sync [command options] 源端地址 目的端地址

MinIO的地址格式为： minio://[ACCESS_KEY:SECRET_KEY[:TOKEN]@]ENDPOINT/BUCKET[/PREFIX]

示例如下：

我们打开指定的同步目录的上一级，可以看到产生了两个文件：

进去datauser看（其中user是桶下面的根目录名称），可以看到数据下载下来了。

进入dataminiofs看看，可以看到元数据也同步下来了：

对应MinIO桶的根目录下也有两个文件夹：

05 总结

5.1 命令总结

上面举例的是只使用了JuiceFS的同步（sync）命令，如果想要知道更多的JuiceFS相关的命令，可以使用--help来搜索，整理如下：

用法：juicefs [全局可选参数] command [命令选项] [命令参数...]

5.2 常见错误总结

常见的错误，官网已经记录下来了，可以参考：https://www.juicefs.com/docs/zh/community/faq/

5.3 更多的使用案例

可以参考：

• 《在 Docker 使用 JuiceFS》
• 《Kubernetes 使用 JuiceFS 持久化数据》
• 《在 Hadoop 生态使用 JuiceFS 存储》
• 《启用 JuiceFS 的 S3 网关》

06 文末

本文主要讲解了JuiceFS的一些概念、架构以及实操的案例，希望能帮助到大家，谢谢大家的阅读，本文完！