天天看点
返回

FastDFS 分布式存储系统搭建以及使用

FastDFS 分布式存储系统搭建以及使用

主要适用于图片等文件的存储，使用docker可以快速的实现搭建。

FastDFS是一个开源的轻量级分布式文件系统，它对文件进行管理，功能包括：文件存储、文件同步、文件访问文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务，如相册网站、视频网站等等。FastDFS为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重 高可用、高性能等指标，使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。 FastDFS 架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载，通过Tracker server 调度最终由 Storage server 完成文件上传和下 载。Tracker server 作用是负载均衡和调度，通过 Tracker server 在文件上传时可以根据一 些策略找到Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务器。Storage server 作用是文件存储，客户端上传的文件最终存储在 Storage 服务器 上，Storageserver 没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。 可以将storage称为存储服务器。

首先需要有docker环境，才能进行安装，查看docker 版本 docker -v
FastDFS 分布式存储系统搭建以及使用

拉去镜像：docker pull morunchang/fastdfs

运行tracker ：docker run -d --name tracker --net=host morunchang/fastdfs sh tracker.sh

运行storage：docker run -d --name storage --net=host -e TRSCKER_IP=:22122 -e GROUP_NAME= morunchang/fastdfs sh tracker.sh

tracker和storage可以设置开机自动启动：docker update --restart=always ***

安装完成执行，需要执行的操作：

进入storage的容器内部，修改nginx.conf

docker exec -it storage /bin/bash

在真正使用的过程中，Nginx会出现缓存的现象，可以进行设置：

FastDFS 分布式存储系统搭建以及使用
需要引入的依赖包： 
<dependency>
    <groupId>net.oschina.zcx7878</groupId>
    <artifactId>fastdfs-client-java</artifactId>
    <version>1.27.0.0</version>
</dependency>

自定义的配置（fdfs_client.conf用来存放服务器的一些配置）

connect_timeout=60
network_timeout=60
charset=UTF-8
http.tracker_http_port=8080
tracker_server=192.168.2.150:22122

文件上传Controller层：

/**
 * @author 18013
 * @version 1.0
 * @date 2021/6/27 17:38
 */
@RestController
@RequestMapping(value = "/upload")
@CrossOrigin
public class FileUploadController {

    /**
     * 文件上传
     */
    @PostMapping
    public Result upload(@RequestParam(value = "file") MultipartFile file)throws Exception{
        FastDFSFile fastDFSFile = new FastDFSFile(file.getOriginalFilename(),file.getBytes(), StringUtils.getFilenameExtension(file.getOriginalFilename()));
        //调用FastDfsUtil工具类将文件引入到FastDFS中
        String[] upload = FastDFSUtil.upload(fastDFSFile);
        //拼接访问地址
        String url = FastDFSUtil.getTrackerInfo()+"/"+upload[0]+"/"+upload[1];
        return new Result(true, StatusCode.OK,"上传成功",url);
    }
}

相关的工具类：

/**
 * @author 18013
 * @version 1.0
 * @date 2021/6/27 13:36
 */
public class FastDFSUtil {
    /**
     * 加载Tracker链接信息
     */
    static {
        try {
            String fileName = new ClassPathResource("fdfs_client.conf").getPath();
            ClientGlobal.init(fileName);
        } catch (IOException e) {
            e.printStackTrace();
        } catch (MyException e) {
            e.printStackTrace();
        }
    }

    public static TrackerServer getTrackerServer() throws Exception{
        //创建一个TrackerClient对象，通过TrackerClient对象获取TrackerServer
        TrackerClient trackerClient = new TrackerClient();
        //通过TrackerClient获取TrackerServer的链接对象
        TrackerServer trackerServer = trackerClient.getConnection();
        return trackerServer;
    }

    /**
     * 文件上传
     */
    public static String[] upload(FastDFSFile fastDFSFile)throws Exception{
        //附加参数
        NameValuePair[] metaList = new NameValuePair[1];
        metaList[0] = new NameValuePair("author",fastDFSFile.getAuthor());
        TrackerServer trackerServer = getTrackerServer();
        //通过TrackerServer的链接信息获取Storage的链接信息，创建StrongClient对象存储Strong的链接信息
        StorageClient storageClient = new StorageClient(trackerServer, null);
        //通过StorageClient访问Storage，实现文件上传，并获取文件上传后的存储信息
        //返回两个数据，一个是文件上传所存储的Storage的组名字    group1
        //第二个文件存储到Storage上的文件名字
        String[] uploads = storageClient.upload_file(fastDFSFile.getContent(), fastDFSFile.getExt(), metaList);
        return uploads;
    }


    /**
     * 获取文件信息
     * @param groupName 文件的组名
     * @param remoteFileName 文件的路径名字
     */
    public static FileInfo getFile(String groupName,String remoteFileName)throws Exception{
        TrackerServer trackerServer = getTrackerServer();
        //通过TrackerServer获取Storage信息，创建StorageClient对象存储Storage信息
        StorageClient storageClient = new StorageClient(trackerServer,null);
        //获取文件信息
        FileInfo fileInfo = storageClient.get_file_info(groupName, remoteFileName);
        return fileInfo;
    }

    /**
     * 文件下载
     * @param groupName 文件的组名
     * @param remoteFileName 文件的路径名字
     * @throws Exception 抛出的异常
     */
    public static InputStream downFile(String groupName, String remoteFileName) throws Exception{
        TrackerServer trackerServer = getTrackerServer();
        //通过TrackerServer获取Storage信息，创建StorageClient对象存储Storage信息
        StorageClient storageClient = new StorageClient(trackerServer,null);
        //文件下载
        byte[] bytes = storageClient.download_file(groupName, remoteFileName);
        ByteArrayInputStream byteArrayInputStream = new ByteArrayInputStream(bytes);
        return byteArrayInputStream;
    }

    /**
     * 文件删除
     * @param groupName 组名
     * @param remoteFileName 文件路径
     * @throws Exception
     */
    public static void deleteFile(String groupName, String remoteFileName)throws Exception{
        TrackerServer trackerServer = getTrackerServer();
        //通过TrackerServer获取Storage信息，创建StorageClient对象存储Storage信息
        StorageClient storageClient = new StorageClient(trackerServer,null);
        //文件删除
        int i = storageClient.delete_file(groupName, remoteFileName);
        System.out.println(i);
    }

    /**
     * 获取Storage信息
     * @throws Exception 抛出异常
     */
    public static StorageServer getStorage()throws Exception{
        //创建一个TrackerClient对象，通过TrackerClient对象获取TrackerServer
        TrackerClient trackerClient = new TrackerClient();
        //通过TrackerClient获取TrackerServer的链接对象
        TrackerServer trackerServer = trackerClient.getConnection();
        StorageServer storeStorage = trackerClient.getStoreStorage(trackerServer);
        return storeStorage;
    }

    /**
     * 获取Storage的IP和端口信息
     */
    public static ServerInfo[] getServerInfo(String groupName, String remoteFileName)throws Exception{
        //创建一个TrackerClient对象，通过TrackerClient对象获取TrackerServer
        TrackerClient trackerClient = new TrackerClient();
        //通过TrackerClient获取TrackerServer的链接对象
        TrackerServer trackerServer = trackerClient.getConnection();

        ServerInfo[] fetchStorages = trackerClient.getFetchStorages(trackerServer, groupName, remoteFileName);
        return fetchStorages;

    }

    /**
     * 获取Tracker信息
     * @return 返回对应的URL
     * @throws Exception  抛出异常
     */
    public static  String getTrackerInfo() throws Exception{
        TrackerServer trackerServer = getTrackerServer();
        String ip = trackerServer.getInetSocketAddress().getHostString();
        int port = ClientGlobal.getG_tracker_http_port();
        String url = "http://"+ip+":"+port;
        return url;
    }

    public static void main(String[] args) throws Exception{
       /* FileInfo fileInfo = getFile("group1", "M00/00/00/wKgClmDYesOAHaG8AACLRGobDSA601.png");
        System.out.println(fileInfo);*/
       //文件下载
//        InputStream inputStream = downFile("group1", "M00/00/00/wKgClmDYesOAHaG8AACLRGobDSA601.png");
//        FileOutputStream fileOutputStream = new FileOutputStream("E:/1.jpg");
//        byte[] buffer = new byte[1024];
//        while (inputStream.read(buffer) != -1){
//            fileOutputStream.write(buffer);
//        }
//        fileOutputStream.flush();
//        fileOutputStream.close();
//        inputStream.close();
        //deleteFile("group1", "M00/00/00/wKgClmDYh7uAcjIgAADhsZ4surE334.png");
        String trackerInfo = getTrackerInfo();
        System.out.println(trackerInfo);
    }
}
亲测可以正常使用，如有问题，可以在下方留言，一起进行探讨。
分布式文件存储系统 fastdfs
上一篇: (Release Candidate)Candidate
下一篇: 分布式文件存储FastDFS（六）FastDFS多节点配置

继续阅读