大家最耳熟能详的系统分布式文件系统当属 HDFS,它的开源全称是 Hadoop Distributed File System
,在 Hadoop 技术栈盛行时大放异彩。云原随着云计算的生分发展成熟,数据上云成为趋势,布式但由于对象存储和文件存储的文件结构不同,在云上要进行大数据存储时会遇到很多问题:查询性能慢、系统数据不能保证一致性。开源
今天要为大家介绍的云原就是一款为云环境设计的文件系统,JuiceFS 是生分一款云原生高性能分布式文件系统, 采用的是插件化的架构,「数据」与「元数据」分离,用户可按照场景需求选择适用的元数据以及数据引擎。使用 JuiceFS 存储数据,数据本身会被持久化在对象存储(例如,Amazon S3),相对应的元数据可以按需存储在 Redis、MySQL、TiKV、SQLite 等多种数据库中。
JuiceFS 于 2021 年 1 月在 GitHub 上开源,1年半时间已经获得 6.5 K Star,是基础领域备受关注的项目; JuiceFS 采用的是 Aache 2.0 许可证,意味着 用户可以更放心地将 JuiceFS 应用于各种商业环境,与自己的应用集成。在 AI 组件 Fluid 和 PaddlePaddle 中都可以看到 JuiceFS 的身影。
安装 JuiceFS 非常简单,你需要准备好元数据存储引擎(比如 Redis, MySQL),以及对象存储,最后下载 JuiceFS 客户端执行一行命令,就能立刻开始使用了。
你可以在 GitHub 项目页面找到 JuiceFS 最新版客户端下载地址,选择你所在平台的预编译版本,下载安装到 /usr/local/bin/juicefs。
当在终端输入并执行 juicefs 并返回了程序的帮助信息,就说明你成功安装了 JuiceFS 客户端。
创建文件系统
创建文件系统使用客户端提供的 format 命令,一般格式为:
juicefs format [command options] META-URL NAME
可见,格式化文件系统需要提供 3 种信息:
挂载文件系统使用客户端提供的 mount 命令,一般格式为:
juicefs mount [command options] META-URL MOUNTPOINT
与创建文件系统的命令类似,挂载文件系统需要提供以下信息:**[command options]**:用来指定文件系统相关的选项,例如:-d 可以实现后台挂载;META-URL:用来设置元数据存储。即数据库相关的信息,通常是数据库的 URL 或文件路径;MOUNTPOINT:指定文件系统的挂载点。例如,以下命令将 myjfs 文件系统挂载到 ~/jfs 文件夹:
juicefs mount sqlite3://myjfs.db ~/jfs
当你获得以下反馈即为挂载成功了!!
当挂载好文件系统以后可以通过 juicefs bench 命令对文件系统进行基础的性能测试和功能验证,确保 JuiceFS 文件系统能够正常访问且性能符合预期。
juicefs bench ~/jfs
运行 juicefs bench 命令以后会根据指定的并发度(默认为 1)往 JuiceFS 文件系统中写入及读取 N 个大文件(默认为 1)及 N 个小文件(默认为 100),并统计读写的吞吐和单次操作的延迟,以及访问元数据引擎的延迟。
验证成功之后,欢迎大展身手,探索更多玩法~
项目地址:https://github.com/juicedata/juicefs。
[1]HDFS API: https://juicefs.com/docs/zh/community/hadoop_java_sdk。
[2]S3 网关: https://juicefs.com/docs/zh/community/s3_gateway。
[3]CSI Driver: https://juicefs.com/docs/zh/community/how_to_use_on_kubernetes/。
[4]性能测试结果: https://juicefs.com/docs/zh/community/benchmark/。
[5]查看详情: https://juicefs.com/docs/zh/community/security/encrypt。
责任编辑:姜华 来源: Github爱好者 JuiceFS云原生(责任编辑:热点)
基石科技控股(08391.HK)完成配发6962.5万股 每股0.40港元
今年二季度QFII最新持仓曝光 斥资逾16亿元新进增持这4股
海关总署:前10个月民营企业进出口15.31万亿元 占外贸总值的48.3%
苏州吴中开发区分局将密切关注经济财政运行变化 力促收入平稳达标
避险情绪升温 现货黄金年内涨幅已超过25% 专家看涨至2000美元/盎司
好消息!全国首个百万千瓦煤电机组节能减排升级与改造示范项目建成投产
两市成交重返万亿元 92只个股吸金逾265亿元 市场赚钱效应凸显