gridfs是mongodb中的一個内置功能,可以用于存放大量小檔案。
http://www.mongodb.org/display/docs/gridfs
http://www.mongodb.org/display/docs/gridfs+specification
mongodb提供了一個指令行工具mongofiles可以來處理gridfs,在bin目錄下。
列出所有檔案:
mongofiles list
上傳一個檔案:
mongofiles put xxx.txt
下載下傳一個檔案:
mongofiles get xxx.txt
查找檔案:
mongofiles search xxx //會查找所有檔案名中包含“xxx”的檔案
mongofiles list xxx //會查找所有檔案名以“xxx”為字首的檔案
參數說明:
–d 指定資料庫 ,預設是fs,mongofiles list –d testgridfs
-u –p 指定使用者名,密碼
-h 指定主機
-port 指定主機端口
-c 指定集合名,預設是fs
-t 指定檔案的mime類型,預設會忽略
mongovue位址:http://www.mongovue.com/
mongovue是個免費軟體,但超過15天後功能受限。可以通過删除以下系統資料庫項來解除限制:
[hkey_current_user\software\classes\clsid\{b1159e65-821c3-21c5-ce21-34a484d54444}\4ff78130]
把這個項下的值全删掉就可以了。
下載下傳位址:https://github.com/mongodb/mongo-java-driver/downloads
官方的文檔貌似不是最新的,不過通過檢視api來使用也不困骓。
http://api.mongodb.org/java/2.7.2/
以下代碼基于mongo-2.7.3.jar
項目位址:https://github.com/mdirolf/nginx-gridfs
通過nginx-gridfs,可以直接用http來通路gridfs中的檔案。
1. 安裝
安裝各種依賴包:zlib,pcre,openssl
在ubuntu下可能是以下指令:
sudo apt-get install zlib1g-dev //貌似sudo apt-get install zlib-dev 不能安裝
sudo apt-get install libpcre3 libpcre3-dev
sudo apt-get install openssl libssl-dev
安裝git(略)
用git下載下傳nginx-gridfs的代碼:
git clone git://github.com/mdirolf/nginx-gridfs.git
cd nginx-gridfs
git submodule init
git submodule update
下載下傳nginx:
wget http://nginx.org/download/nginx-1.0.12.zip
tar zxvf nginx-1.0.12.zip
cd nginx-1.0.12
./configure --add-module=<nginx-gridfs的路徑>
make
sudo make install
如果編譯出錯,則在configure時加上--with-cc-opt=-wno-error 參數。
2. 配置nginx
在server的配置中加上以下
location /pics/ {
gridfs pics
field=filename
type=string;
mongo 127.0.0.1:27017;
}
上面的配置表示:
資料庫是pics,通過檔案名filename來通路檔案,filename的類型是string
目前隻支援通過id和filename來通路檔案。
啟動nginx:/usr/local/nginx/sbin/nginx
用mongovue把一個圖檔001.jpg上傳到pics資料庫中。
打開:http://localhost/pics/001.jpg
如果成功,則可以看到顯示圖檔了。
3. nginx-gridfs的不足
沒有實作http的range support,也就是斷點續傳,分片下載下傳的功能。
gridfs在資料庫中,預設使用fs.chunks和fs.files來存儲檔案。
其中fs.files集合存放檔案的資訊,fs.chunks存放檔案資料。
一個fs.files集合中的一條記錄内容如下,即一個file的資訊如下:
對應的fs.chunks中的chunk如下:
預設chunk的大小是256k。
public static final int default_chunksize = 256 * 1024;
是以在把檔案存入到gridfs過程中,如果檔案大于chunksize,則把檔案分割成多個chunk,再把這些chunk儲存到fs.chunks中,最後再把檔案資訊存入到fs.files中。
在讀取檔案的時候,先據查詢的條件,在fs.files中找到一個合适的記錄,得到“_id”的值,再據這個值到fs.chunks中查找所有“files_id”為“_id”的chunk,并按“n”排序,最後依次讀取chunk中“data”對象的内容,還原成原來的檔案。
盡管從理論上,無論用什麼hash函數,都有可能出現hash值相同,但内容不相同的檔案,但是對于gridfs預設使用的md5算法,目前已出現長度和md5值都相同但内容不一樣的檔案。
如果想要自已改用其它hash算法,可以從驅動入手。因為gridfs在mongodb中實際也隻是兩個普通的集合,是以完全可以自已修改驅動,替換下hash算法即可。
目前java版的驅動比較簡單,可以很容易修改實作。
但是要注意,這樣不符合gridfs的規範了。
1. gridfs不自動處理md5相同的檔案,對于md5相同的檔案,如果想在gridfs中隻有一個存儲,要使用者自已處理。md5值的計算由用戶端完成。
2. 因為gridfs在上傳檔案過程中是先把檔案資料儲存到fs.chunks,最後再把檔案資訊儲存到fs.files中,是以如果在上傳檔案過程中失敗,有可能在fs.chunks中出現垃圾資料。這些垃圾資料可以定期清理掉。