IT外包桌面解決方案--nginx的FastDFS分布式存儲模塊測試方法
2020-03-28 06:48 作者：艾銻無限 瀏覽量：
比爾蓋茨的反思，新冠病毒真正教會了我們什么？
在一封題為“我們可以從新冠病毒疫情中學會什么”的公開信中，他寫道：
“冥冥中自有深意”
“我堅信，無論是好是壞，眼下所發生的一切事情背后自有深意。”不管是好事還是壞事。它提醒我們：
1)無論我們在文化、宗教、職業、經濟狀況或聲望方面存在多大差異，我們在疫情爆發時都是平等的。
2）我們都是相互聯系的，影響一個人的事情也會影響其他人。
3）我們設置的虛假邊界沒有什么價值，因為這種病毒不需要護照就會傳播。它通過短暫的壓迫提醒我們，這個世界上許多人終生都在壓迫中度過。
4）我們的健康是多么珍貴，我們是如何通過食用營養不良的加工食品和飲用被化學物質污染的水而忽視它的。如果我們不注意我們的健康，我們當然會生病。
5）生命的短暫，提醒我們最重要的是要互相幫助，尤其是幫助那些老人或病人。
6）我們的社會已經變得多么崇尚物質。在困難時期，我們應該記住，我們需要的是必需品(食物、水、藥品)，而不是我們有時不必要地賦予高昂價值的奢侈品。
7）我們的家庭和家庭生活是多么重要，我們是多么忽視了這一點。它正迫使我們重返家園，這樣我們才能重建家園，鞏固我們的家庭。
8）我們真正的工作不是現在的工作，那是我們所做的，而不是我們生來要做的。我們真正的工作是互相照顧，互相保護，互相得益。
9）我們要克制自我，無論我們認為自己有多偉大，或別人認為我們有多有名，病毒都能讓我們的世界陷入停滯。
10）自由意志的力量就在我們手中。我們可以選擇合作和互相幫助，可以選擇分享、給予、幫助和支持，也可以選擇自私自利、囤積、只顧自己。的確，正是困難使我們暴露了本性。
11）我們可以保持耐心，也可以陷入驚慌失措中。我們可以理解這種情況在歷史上已經發生過很多次了，而且終會過去。或者我們可以陷入恐慌，認為這是世界末日，由此對我們造成的傷害大于好處。
12）這可能是一個結束，也可能代表著新的開始。這段時間可以是反思和理解的時間，可以是我們從錯誤中吸取教訓的時間，也可以是個循環的開始，這個循環會一直持續下去，直到我們最終得到我們想要的教訓。
13）地球已經陷入病態之中。它提醒我們，我們需要關注森林砍伐的速度，就像我們關注衛生紙從貨架上消失的速度一樣迫切。我們生病是因為我們的家園生病了。
14）在每一個困難之后，總會有輕松的時候。生命是循環的，而這只是這個偉大循環中的一個階段。我們不需要恐慌，這一切都會過去。
盡管許多人認為新型冠狀病毒是一個巨大的災難，但我更傾向于認為它是一個“偉大的糾正者”。它提醒我們關注那些我們似乎已經遺忘的重要教訓，而是否吸取這些教訓則取決于我們自己。
nginx的FastDFS分布式存儲模塊測試方法
再回過頭來看FastDFS更新很快，還看到fastdfs-nginx-module_v1.01.tar.gz nginx模塊，所以今天在一臺測試機上測試了·測試幾天看穩定不穩定，在考慮換掉浪費資源的 lustre !環境：
storage1：192.168.6.100
storage2：192.168.6.101
tracker：192.168.6.102
nginx $> wget http://fastdfs.googlecode.com/files/FastDFS_v2.04.tar.gz
# 解壓
nginx $> tar zxvf FastDFS_v2.04.tar.gz
nginx $> cd FastDFS
# 因為我是給nginx添加fastdfs模塊，所以不需要fastdfs支持 http 所以我就不需要去掉 #WITH_HTTPD=1 前的注釋了，直接編譯
nginx $> ./make.sh
nginx $> ./make.sh install
# tracker 的修改
tracker $> vim /etc/fdfs/tracker.conf
disabled=false
#配置是否生效
bind_addr=192.168.6.102
#綁定IP
port=22122
#服務端口
connect_timeout=30
#連接超時時間
network_timeout=60
# tracker server的網絡超時，單位為秒。
base_path=/home/yangzi
#目錄地址，里面會創建data(存放存儲服務器信息)、logs，日志文件
max_connections=256
#系統提供服務最大連接數
work_threads=4
#線程數，通常設置CPU數
store_lookup=2
上傳組(卷) 的方式 0:輪詢方式 1: 指定組 2: 平衡負載(選擇最大剩余空間的組(卷)上傳)
這里如果在應用層指定了上傳到一個固定組,那么這個參數被繞過
store_group=group1
當上一個參數設定為1 時 (store_lookup=1，即指定組名時)，必須設置本參數為系統中存在的一個組名。如果選擇其他的上傳方式，這個參數就沒有效了
store_server=0
選擇哪個storage server 進行上傳操作(一個文件被上傳后，這個storage server就相當于這個文件的storage server源，會對同組的storage server推送這個文件達到同步效果)
# 0: 輪詢方式
# 1: 根據ip 地址進行排序選擇第一個服務器（IP地址最小者）
# 2: 根據優先級進行排序（上傳優先級由storage server來設置，參數名為upload_priority）
store_path=0
選擇storage server 中的哪個目錄進行上傳。storage server可以有多個存放文件的base path（可以理解為多個磁盤）。
# 0: 輪流方式，多個目錄依次存放文件
# 2: 選擇剩余空間最大的目錄存放文件（注意：剩余磁盤空間是動態的，因此存儲到的目錄或磁盤可能也是變化的）
download_server=0
選擇哪個 storage server 作為下載服務器
# 0: 輪詢方式，可以下載當前文件的任一storage server
# 1: 哪個為源storage server 就用哪一個 (前面說過了這個storage server源 是怎樣產生的) 就是之前上傳到哪個storage server服務器就是哪個了
reserved_storage_space = 4GB
storage server 上保留的空間,保證系統或其他應用需求空間(指出 如果同組的服務器的硬盤大小一樣,以最小的為準,也就是只要同組中有一臺服務器達到這個標準了,這個標準就生效,原因就是因為他們進行備份)
log_level=info
#選擇日志級別
run_by_group=
#操作系統運行FastDFS的用戶組
run_by_user=
#操作系統運行FastDFS的用戶
allow_hosts=*
#可以連接到此 tracker server 的ip范圍（對所有類型的連接都有影響，包括客戶端，storage server）
sync_log_buff_interval = 10
# 同步或刷新日志信息到硬盤的時間間隔，單位為秒
# 注意：tracker server 的日志不是時時寫硬盤的，而是先寫內存。
check_active_interval = 120
# 檢測 storage server 存活的時間隔，單位為秒。
# storage server定期向tracker server 發心跳，如果tracker server在一個check_active_interval內還沒有收到storage server的一次心跳，那邊將認為該storage server已經下線。所以本參數值必須大于storage server配置的心跳時間間隔。通常配置為storage server心跳時間間隔的2倍或3倍。
thread_stack_size = 64KB
# 線程棧的大小。FastDFS server端采用了線程方式。更正一下，tracker server線程棧不應小于64KB，不是512KB。
# 線程棧越大，一個線程占用的系統資源就越多。如果要啟動更多的線程（V1.x對應的參數為max_connections，
V2.0為work_threads），可以適當降低本參數值。
storage_ip_changed_auto_adjust = true
# 這個參數控制當storage server IP地址改變時，集群是否自動調整。注：只有在storage server進程重啟時才完成自動調整。
storage_sync_file_max_delay = 86400
# V2.0引入的參數。存儲服務器之間同步文件的最大延遲時間，缺省為1天。根據實際情況進行調整
storage_sync_file_max_time = 300
# V2.0引入的參數。存儲服務器同步一個文件需要消耗的最大時間，缺省為300s，即5分鐘。
http.disabled=true
# HTTP服務是否不生效 當然編譯的時候我已經把 with_httpd宏去掉了，
http.server_port=80
# HTTP服務端口
# 下列參數只有 開啟http服務才有用
http.check_alive_interval=30
http.check_alive_type=tcp
http.check_alive_uri=/status.html
http.need_find_content_type=true
storage $> vim /etc/fdfs/storage.conf
disabled=false
#配置是否生效
group_name=group1
#storage所在組(卷)
bind_addr=192.168.6.100
# 綁定IP，另一太 storage IP為 192.168.6.101
client_bind=true
#bind_addr通常是針對server的。當指定bind_addr時，本參數才有效。
port=23000
# 是storage 服務端口
connect_timeout=30
# 連接超時時間，針對socket套接字函數connect
network_timeout=60
# storage server 網絡超時時間，單位為秒。
heart_beat_interval=30
# 心跳間隔時間，單位為秒
stat_report_interval=60
# storage server向tracker server報告磁盤剩余空間的時間間隔，單位為秒。
base_path=/home/eric
# base_path 目錄地址,根目錄必須存在 子目錄會自動生成
# 會產生data（數據存儲地方）、 logs日志文件
max_connections=256
# 最大連接數
buff_size = 256KB
# 設置隊列結點的buffer大小。
work_threads=4
# 工作線程數
disk_rw_separated = true
# 磁盤IO讀寫是否分離，缺省是分離的。
disk_reader_threads = 1
# 針對單個存儲路徑的讀線程數，缺省值為1
disk_writer_threads = 1
# 針對單個存儲路徑的寫線程數，缺省值為1
sync_wait_msec=200
# 同步文件時，如果從binlog中沒有讀到要同步的文件，休眠N毫秒后重新讀取，0表示不休眠，立即再次嘗試讀取。
sync_interval=0
# 同步上一個文件后，再同步下一個文件的時間間隔，單位為毫秒，0表示不休眠，直接同步下一個文件。
sync_start_time=00:00
sync_end_time=23:59
# 允許系統同步的時間段 (默認是全天) 。一般用于避免高峰同步產生一些問題而設定，相信sa都會明白。
write_mark_file_freq=500
# 把storage的mark文件定期同步到磁盤的時間間隔，單位為秒
store_path_count=1
# 存放文件時storage server支持多個路徑（例如磁盤）。這里配置存放文件的基路徑數目，通常只配一個目錄。
store_path0=/home/eric
# 逐一配置store_path個路徑，索引號基于0。注意配置方法后面有0,1,2 ......，需要配置0到store_path - 1。
# 如果不配置base_path0，那邊它就和base_path對應的路徑一樣。
subdir_count_per_path=32
# FastDFS存儲文件時，采用了兩級目錄。這里配置存放文件的目錄個數
tracker_server=192.168.6.188:22122
# tracker_server 的列表 要寫端口的哦
log_level=info
# 日志級別
run_by_group=
# 運行storage 用戶組
run_by_user=
# 運行storage 用戶
allow_hosts=*
# 允許連接IP列表
file_distribute_path_mode=0
# 文件在data目錄下分散存儲策略。
# 0: 輪流存放
# 1: 隨機存儲
file_distribute_rotate_count=100
# 當上面的參數file_distribute_path_mode配置為0（輪流存放方式）時，本參數有效。
#當一個目錄下的文件存放的文件數達到本參數值時，后續上傳的文件存儲到下一個目錄中
fsync_after_written_bytes=0
# 當寫入大文件時，每寫入N個字節，調用一次系統函數fsync將內容強行同步到硬盤。0表示從不調用fsync
sync_log_buff_interval=10
# 同步或刷新日志信息到硬盤的時間間隔，單位為秒
sync_binlog_buff_interval=60
# 同步binglog（更新操作日志）到硬盤的時間間隔，單位為秒
sync_stat_file_interval=300
# 把storage的stat文件同步到磁盤的時間間隔，單位為秒。
thread_stack_size=512KB
＃ 線程棧的大小。FastDFS server端采用了線程方式。
＃ 線程棧越大，一個線程占用的系統資源就越多。
upload_priority=10
本storage server作為源服務器，上傳文件的優先級，可以為負數。值越小，優先級越高。這里就和 tracker.conf 中store_server= 2時的配置相對應了
if_alias_prefix=
check_file_duplicate=0
＃ 是否檢測上傳文件已經存在。如果已經存在，則不存在文件內容，建立一個符號鏈接以節省磁盤空間。 結合 fastdfh使用的。 1是檢測，0是不檢測，我們不使用fastdfh 當然 0
key_namespace=FastDFS
# 當上個參數設定為1 或 yes時 (true/on也是可以的) ， 在FastDHT中的命名空間
keep_alive=0
# 與FastDHT servers 的連接方式 (是否為持久連接)
# 下面是http的配置了就不多說了
http.disabled=true
http.domain_name=
http.server_port=80
http.trunk_size=256KB
http.need_find_content_type=true
# tracker
tracker $> mkdir -p /home/eric
# storage
storage $> mkdir -p /home/yangzi
storage $> wget http://www.nginx.org/download/nginx-0.8.53.tar.gz
storage $> svn export http://fastdfs-nginx-module.googlecode.com/svn/trunk/ fastdfs-nginx-module-read-only
storage $> tar zxvf nginx-0.8.53.tar.gz
storage $> cd nginx-0.8.53
storage $> ./configure --prefix=/usr/local/nginx --add-module=/root/fastdfs-nginx-module-read-only/src
storage $> make
storage $> make install
# 拷貝mod_fastdfs.conf 到/etc/fdfs/
storage $> cp /root/fastdfs-nginx-module-read-only/src/mod_fastdfs.conf /etc/fdfs/
storage $> vim /usr/local/nginx/conf/nginx.conf
location /M00 {
alias /home/eric/data;
ngx_fastdfs_module;
}
7. 給 storage 的存儲目錄做一個軟連接
storage $> ln -s /home/yangzi/data /home/yangzi/data/M00
# 啟動 tracker
tracker $> /usr/local/bin/fdfs_trackerd /etc/fdfs/tracker.conf
# 啟動 storage
storage $> /usr/local/bin/fdfs_storaged /etc/fdfs/storage.conf
# 啟動 storage2
storage2 $> /usr/local/bin/fdfs_storaged /etc/fdfs/storage.conf
#在 storage啟動 nginx
storage $> /usr/local/nginx/sbin/nginx
# 修改客戶端配置文件
storage $> vim /etc/fdfs/client.conf
connect_timeout=30
network_timeout=60
base_path=/home/yangzi
tracker_server=192.168.6.102:22122
log_level=info
#下面參數無所謂了反正沒有用到http 服務
http.tracker_server_port=80
storage $> vim a.html
test FastDFS!
storage $> /usr/local/bin/fdfs_test /etc/fdfs/client.conf upload a.html
This is FastDFS client test program v2.04
Copyright (C) 2008, Happy Fish / YuQing
FastDFS may be copied only under the terms of the GNU General
Public License V3, which may be found in the FastDFS source kit.
Please visit the FastDFS Home Page http://www.csource.org/
for more detail.
base_path=/home/yangzi, connect_timeout=30, network_timeout=60, tracker_server_count=1, anti_steal_token=0, anti_steal_secret_key length=0
tracker_query_storage_store_list_without_group:
server 1. group_name=group1, ip_addr=192.168.6.100, port=23000
group_name=group1, ip_addr=192.168.6.100, port=23000
storage_upload_by_filename
group_name=group1, remote_filename=M00/00/00/wKgGvEz3Y9MAAAAAAAAADigvbpc73.html
source ip address: 192.168.6.100
file timestamp=2010-12-02 17:16:03
file size=14
file crc32=674197143
file url: http://192.168.6.100/group1/M00/00/00/wKgGvEz3Y9MAAAAAAAAADigvbpc73.html
storage_upload_slave_by_filename
group_name=group1, remote_filename=M00/00/00/wKgGvEz3Y9MAAAAAAAAADigvbpc73_big.html
source ip address: 192.168.6.100
file timestamp=2010-12-02 17:16:03
file size=14
file crc32=674197143
file url: http://192.168.6.100/group1/M00/00/00/wKgGvEz3Y9MAAAAAAAAADigvbpc73_big.html
相關文章
IT電腦維護外包
關閉