咱們說的高并發(fā)是什么？
上面的界說顯著不是咱們一般所言的并發(fā)，在互聯(lián)網(wǎng)年代，所講的并發(fā)、高并發(fā)，一般是指并發(fā)拜訪。也就是在某個(gè)時(shí)刻點(diǎn)，有多少個(gè)拜訪一起到來一般假如一個(gè)體系的日PV在千萬以上，有可能是一個(gè)高并發(fā)的體系，可是有的公司完全不走技能道路，全賴機(jī)器堆，這不在咱們的評論規(guī)模。
高并發(fā)的問題，咱們詳細(xì)該關(guān)懷什么？
QPS：每秒鐘懇求或許查詢的數(shù)量，在互聯(lián)網(wǎng)范疇，指每秒呼應(yīng)懇求數(shù)(指HTTP懇求)
吞吐量：單位時(shí)刻內(nèi)處理的懇求數(shù)量(一般由QPS與并發(fā)數(shù)決議)
呼應(yīng)時(shí)刻：從懇求發(fā)出到收到呼應(yīng)花費(fèi)的時(shí)刻，例如體系處理一個(gè)HTTP懇求需求100ms，這個(gè)100ms就是體系的呼應(yīng)時(shí)刻
PV：歸納閱讀量(Page View)，即頁面閱讀量或許點(diǎn)擊量，一個(gè)訪客在24小時(shí)內(nèi)拜訪的頁面數(shù)量，同一個(gè)人閱讀你的網(wǎng)站同一頁面，只記作一次PV
UV：獨(dú)立拜訪(UniQue Visitor)，即必定時(shí)刻規(guī)模內(nèi)相同訪客屢次拜訪網(wǎng)站，只核算為1個(gè)獨(dú)立訪客
帶寬：核算帶寬巨細(xì)需重視兩個(gè)目標(biāo)，峰值流量和頁面的均勻巨細(xì)
日網(wǎng)站帶寬=PV/計(jì)算時(shí)刻(換算到秒)*均勻頁面巨細(xì)(單位KB)*8
峰值一般是均勻值的倍數(shù)，依據(jù)實(shí)踐情況來定
QPS不等于并發(fā)銜接數(shù)
QPS是每秒HTTP懇求數(shù)量，并發(fā)銜接數(shù)是體系一起處理的懇求數(shù)量
(總PV數(shù)*80%)/(6小時(shí)秒數(shù)*20%)=峰值每秒懇求數(shù)(QPS)
80%的拜訪量會集在20%的時(shí)刻?。?！
QPS到達(dá)極限，各種情況如何處理？
跟著QPS的增加，每個(gè)階段需求依據(jù)實(shí)踐情況來進(jìn)行優(yōu)化，優(yōu)化的計(jì)劃也與硬件條件、網(wǎng)絡(luò)帶寬休戚相關(guān)。
QPS到達(dá)50
能夠稱之為小型網(wǎng)站，一般的效勞器就能夠敷衍
QPS到達(dá)100
假定聯(lián)系型數(shù)據(jù)庫的每次懇求在0.01秒完結(jié)
假定單頁面只要一個(gè)SQL查詢，那么100QPS意味這1秒鐘完結(jié)100次懇求，可是此刻咱們并不能確保數(shù)據(jù)庫查詢能完結(jié)100次
計(jì)劃：數(shù)據(jù)庫緩存層、數(shù)據(jù)庫的負(fù)載均衡
QPS到達(dá)800
假定咱們運(yùn)用百兆帶寬，意味著網(wǎng)站出口的實(shí)踐帶寬是8M左右
假定每個(gè)頁面只要10k，在這個(gè)并發(fā)條件下，百兆帶寬現(xiàn)已吃完
計(jì)劃：CDN加快、負(fù)載均衡
QPS到達(dá)1000
假定運(yùn)用Memcache緩存數(shù)據(jù)庫查詢數(shù)據(jù)，每個(gè)頁面臨Memcache的懇求遠(yuǎn)大于直接對DB的懇求
Memcache的失望并發(fā)數(shù)在2W左右，但有可能在之前內(nèi)網(wǎng)帶寬現(xiàn)已吃光，表現(xiàn)出不安穩(wěn)
計(jì)劃：靜態(tài)HTML緩存
QPS到達(dá)2000
這個(gè)級別下，文件體系拜訪鎖都成為災(zāi)禍
計(jì)劃：做事務(wù)別離，散布式存儲
#三種高并發(fā)處理計(jì)劃#
一、數(shù)據(jù)庫緩存層的優(yōu)化
什么是數(shù)據(jù)庫緩存？
MySQL等一些常見的聯(lián)系型數(shù)據(jù)庫的數(shù)據(jù)都存儲在磁盤中，在高并發(fā)場景下，事務(wù)運(yùn)用對MySQL發(fā)生的增、刪、改、查的操作形成巨大的I/O開支和查詢壓力，這無疑對數(shù)據(jù)庫和效勞器都是一種巨大的壓力，為了處理此類問題，緩存數(shù)據(jù)的概念應(yīng)運(yùn)而生
為什么是要運(yùn)用緩存？
緩存數(shù)據(jù)是為了讓客戶端很少甚至不拜訪數(shù)據(jù)庫效勞器進(jìn)行數(shù)據(jù)的查詢，高并發(fā)下，能最大程度的下降對數(shù)據(jù)庫效勞器的拜訪壓力極大地處理數(shù)據(jù)庫效勞器的壓力
進(jìn)步運(yùn)用數(shù)據(jù)的呼應(yīng)速度
用戶懇求-->數(shù)據(jù)查詢-->銜接數(shù)據(jù)庫效勞器并查詢數(shù)據(jù)-->將數(shù)據(jù)緩存起來(HTML、內(nèi)存、JSON、序列化數(shù)據(jù))-->顯現(xiàn)給客戶端
用戶再次懇求或許新用戶拜訪-->數(shù)據(jù)查詢-->直接從緩存中獲取數(shù)據(jù)-->顯現(xiàn)給客戶端
二、CDN加快
什么是CDN？
CDN的全稱是Content Delivery Network，即內(nèi)容分發(fā)網(wǎng)絡(luò)，盡可能避開互聯(lián)網(wǎng)上有可能影響數(shù)據(jù)傳輸速度和安穩(wěn)性的瓶頸和環(huán)節(jié)，使內(nèi)容傳輸?shù)母?、更安穩(wěn)
在網(wǎng)絡(luò)遍地放置節(jié)點(diǎn)效勞器所構(gòu)成的在現(xiàn)有的互聯(lián)網(wǎng)根底之上的一層智能虛擬網(wǎng)絡(luò)
CDN體系能夠?qū)崟r(shí)地依據(jù)網(wǎng)絡(luò)流量和各節(jié)點(diǎn)的銜接、負(fù)載情況以及到用戶的間隔和呼應(yīng)時(shí)刻等歸納信息將用戶的懇求從頭導(dǎo)向離用戶最近的效勞節(jié)點(diǎn)上
運(yùn)用CDN的優(yōu)勢？
本地Cache加快，進(jìn)步了企業(yè)站點(diǎn)(特別含有很多圖片和靜態(tài)頁面站點(diǎn))的拜訪速度
跨運(yùn)營商的網(wǎng)絡(luò)加快，確保不同網(wǎng)絡(luò)的用戶都得到杰出的拜訪質(zhì)量
長途拜訪用戶依據(jù)DNS負(fù)載均衡技能智能主動挑選Cache效勞器
主動生成效勞器的長途Mirror(鏡像)cache效勞器，長途用戶拜訪時(shí)從cache效勞器上讀取數(shù)據(jù)，削減長途拜訪的帶寬，分管網(wǎng)絡(luò)流量，減輕原站點(diǎn)WEB效勞器負(fù)載等功用
廣泛散布的CDN節(jié)點(diǎn)加上節(jié)點(diǎn)之間的智能冗余機(jī)制，能夠有效地防止黑客侵略
三、Web效勞器的負(fù)載均衡、懇求分發(fā)
七層負(fù)載均衡的完成
根據(jù)URL等運(yùn)用信息的負(fù)載均衡
Nginx的proxy是它一個(gè)很強(qiáng)壯的功用，完成了7層負(fù)載均衡
Nginx完成的長處
功用強(qiáng)壯，功能杰出，運(yùn)轉(zhuǎn)安穩(wěn)
裝備簡略靈敏
能夠主動除掉作業(yè)不正常的后端效勞器
上傳文件運(yùn)用異步形式
支撐多種分配戰(zhàn)略，能夠分配權(quán)重，分配方法靈敏
Nginx負(fù)載均衡
內(nèi)置戰(zhàn)略，擴(kuò)展戰(zhàn)略
內(nèi)置戰(zhàn)略：IP Hash、加權(quán)輪詢
擴(kuò)展戰(zhàn)略：fair戰(zhàn)略、通用hash、一致性hash
加權(quán)輪詢戰(zhàn)略
首先將懇求都分給高權(quán)重的機(jī)器，直到該機(jī)器的權(quán)值降到了比其他機(jī)器低，才開端將懇求分給下一個(gè)高權(quán)重的機(jī)器
當(dāng)一切后端機(jī)器都down掉時(shí)，Nginx會立行將一切機(jī)器的標(biāo)志位清成初始狀況，以防止形成一切的機(jī)器都處于timeout的狀況
IP Hash戰(zhàn)略
Nginx內(nèi)置的另一個(gè)負(fù)載均衡的戰(zhàn)略，流程和輪詢很相似，僅僅七種的算法和詳細(xì)的戰(zhàn)略有些改變
IP Hash算法是一種變相的輪詢算法
