FastDFS是一款开源的轻量级分布式文件系统，最早在ali，为易道用车架构师余庆所写。它用纯C语言实现，支持Linux、FreeBSD、AIX等UNIX系统。FastDFS为互联网应用量身定做，追求高性能和高扩展性，更适合称作应用级的分布式文件存储服务。它只能通过专有API对文件进行存取访问，不支持POSIX接口方式，通用性较低。

在语言支持方面，目前提供了C、java、php、.NET的API。

现应用在jd、taobao、58、uc、51cto。

1）FastDFS主要解决了大容量的文件存储和高并发访问的问题，文件存取时实现了负载均衡。

2）FastDFS实现了软件方式的RAID，可以使用廉价的IDE硬盘进行存储 ，支持存储服务器在线扩容。

3）FastDFS特别适合大中型网站使用，用来存储资源文件（如：图片、文档、音频、视频等等）。

FastDFS集群架构由追踪服务器（tracker server）、存储服务器（storage server）和客户端（client）三个部分组成。

tracker server：主要做调度工作，在访问中起负载均衡作用，在内存中记录集群中group和storage server的状态信息，是连接client和storage server的枢纽，因为相关信息全部在内存中，tracker server的性能非常高（它本身所需负载很小），一个较大的集群中（如上百个group）有3台就足够。

storage server：文件和文件属性（如metadata）都保存在该server上，存储服务包括文件存储，文件同步，提供文件访问接口，同时以key-value的方式管理文件的元数据。

FastDFS架构解读

1、选择tracker server

当集群中不止一个tracker server时，由于tracker之间是完全对等的关系，客户端在upload文件时可以任意选择一个trakcer。 选择存储的group 当tracker接收到upload file的请求时，会为该文件分配一个可以存储该文件的group，支持如下选择group的规则：

2、选择storage server

当选定group后，tracker会在group内选择一个storage server给客户端，支持如下选择storage的规则：

3、选择storage path

当分配好storage server后，客户端将向storage发送写文件请求，storage将会为文件分配一个数据存储目录，支持如下规则：

4、生成文件名

选定存储目录之后，storage会为文件生一个文件名，由storage server ip、文件创建时间、文件大小、文件校验码和一个随机数生成。

选择两级目录，每个存储目录下有两级256*256的子目录，storage会按文件名进行两次hash（猜测），路由到其中一个子目录，然后将文件存储到该子目录下。

5、生成文件索引

当文件存储到某个子目录后，即认为该文件存储成功，接下来会为该文件生成一个文件索引，即Fileid。Fileid由group、存储目录、两级子目录、文件名、文件后缀名（由客户端指定，主要用于区分文件类型）拼接而成。

客户端带上文件名信息请求Tracker服务获取到存储服务器的ip地址和端口，然后客户端根据返回的IP地址和端口号请求下载文件，存储服务器接收到请求后返回文件给客户端。

文件索引示例：

group1/M00/00/0C/wKjRbExx2K0AAAAAAAANiSQUgyg37275.h

“group1"为组名，”/M00/00/0C/"为磁盘和目录，"wKjRbExx2K0AAAAAAAANiSQUgyg37275.h"为文件名及后缀。

其中文件名由源头storage server ip、创建时的时间戳、文件大小、文件校验码和一个随机数进行hash计算后生成，最后基于base64进行文本编码，转换为可打印的字符。

storage server采用binlog文件记录文件上传、删除等更新操作。binlog不记录文件内容，只记录文件名等元数据信息。

storage server中由专门的线程根据binlog进行文件同步。为了最大程度地避免相互影响以及出于系统简洁性考虑，storage server对组内除自己以外的每台服务器都会启动一个线程来进行文件同步。文件同步采用增量同步方式，系统记录已同步的位置（binlog文件偏移量）到标识文件中。标识文件名格式：{dest storage IP}_{port}.mark

文件同步只在同组内的storage server之间进行，采用push方式，即源头服务器同步给目标服务器。只有源头数据才需要同步，备份数据并不需要再次同步，否则就构成环路了。

新增加一台storage server时，由已有的一台storage server将已有的所有数据（包括源头数据和备份数据）同步给该新增服务器。

客户端将一个文件上传到一台storage server后，文件上传工作就结束了。由storage server根据binlog中的上传记录将这个文件同步到同组的其他storage server。这样的文件同步方式是异步方式，异步方式带来了文件同步延迟的问题。新上传文件后，在尚未被同步过去的Storage server上访问该文件，会出现找不到文件的现象。

什么是主从文件？

文件同步方式是异步方式，新上传文件后，在尚未被同步过去的storage server上访问该文件，会出现找不到文件的现象。

解决方案：

需要说明的是，一个组包含的storage server不是通过配置文件设定的，而是通过tracker server获取到的。客户端和storage server主动连接tracker server。storage server主动向tracker server报告其状态信息，包括磁盘剩余空间、文件同步状况、文件上传下载次数等统计信息。storage server会连接集群中所有的tracker server，向他们报告自己的状态。storage server启动一个单独的线程来完成对一台tracker server的连接和定时报告。另外，每台storage server都会定时向tracker server报告它向同组的其他storage server同步到的文件时间戳。当tracker server收到一台storage server的文件同步报告后，它会依次找出该组内各个storage server被同步到的文件时间戳最小值，作为storage的一个属性记录到内存中。根据上述情况FastDFS提供下面简单解决方案：

1、和文件更新一样，优先选择源storage server下载文件即可。这可以在tracker server的配置文件中设置，对应的参数名为download_server。

2、选择storage server的方法是轮流选择（round-robin）。当client询问tracker server有哪些storage server可以下载指定文件时，tracker server返回满足如下四个条件之一的storage server：

单机存储的文件数受限于inode数量

每个文件对应一个storage本地文件系统的文件，平均每个文件会存在block_size/2的存储空间浪费。

文件合并存储能有效解决上述两个问题，但由于合并存储没有空间回收机制，删除文件的空间不保证一定能复用，也存在空间浪费的问题。

group机制本身可用来做负载均衡，但这只是一种静态的负载均衡机制，需要预先知道应用的访问特性；同时group机制也导致不可能在group之间迁移数据来做动态负载均衡。

FastDFS的介绍 [https://www.cnblogs.com/shenxm/p/8459292.html]

分布式文件系统FastDFS详解 [https://www.cnblogs.com/ityouknow/p/8240976.html]

FastDFS特性及问题思考 [https://www.cnblogs.com/jym-sunshine/p/6397705.html]

FastDFS同步问题讨论 [https://www.cnblogs.com/snake-hand/p/3161528.html]