大文件上傳服務(wù)器、支持超大文件HTTP斷點(diǎn)如何續(xù)傳教程

最近由于筆者所在的研發(fā)集團(tuán)產(chǎn)品需要，需要支持高性能的大文件http上傳，并且要求支持http斷點(diǎn)續(xù)傳。這里在簡要?dú)w納一下，方便記憶：

服務(wù)器端由C語言實(shí)現(xiàn)，而不是用java、PHP這種解釋型語言來實(shí)現(xiàn)；

服務(wù)器端即時(shí)寫入硬盤，因此無需再次調(diào)用move_uploaded_file、InputStreamReader 這種需要緩存的技術(shù)來避免服務(wù)器內(nèi)存占用與瀏覽器請求超時(shí)；

支持HTML5與IFRAME（針對(duì)老瀏覽器），并且支持獲取文件上傳進(jìn)度。

為了更好的適應(yīng)當(dāng)前的移動(dòng)互聯(lián)網(wǎng)，要求對(duì)上傳服務(wù)支持?jǐn)帱c(diǎn)續(xù)傳，斷線重連。因?yàn)橐苿?dòng)互聯(lián)網(wǎng)并不非常穩(wěn)定；再者，上傳一個(gè)大文件發(fā)生異常掉線的可能性非常大，為了避免重新上傳，支持?jǐn)帱c(diǎn)續(xù)傳就變得非常必要了。

支持?jǐn)帱c(diǎn)續(xù)傳的思路是：

客戶端（通常是瀏覽器）向服務(wù)器端上傳某個(gè)文件，并不斷記錄上傳的進(jìn)度，如果一旦掉線或發(fā)生其它異常，客戶端可以向服務(wù)器查詢某個(gè)文件已經(jīng)上傳的狀態(tài)，從上次上傳的文件位置接著上傳。

網(wǎng)上也有大師采用分片文件上傳方式來實(shí)現(xiàn)大文件上傳，方法是將文件切成小片，例如4MB一個(gè)片段，服務(wù)器端每次接收一小片文件保存成一個(gè)臨時(shí)文件，等待所有片段傳輸完畢后，再執(zhí)行合并。

筆者認(rèn)為，如果原始文件足夠小，這種方式是可以的，但一旦文件有幾百兆或者幾個(gè)GB或者幾十個(gè)GB，則合并文件的時(shí)間會(huì)非常長，常常導(dǎo)致瀏覽器響應(yīng)超時(shí)或服務(wù)器阻塞。

如果自己實(shí)現(xiàn)獨(dú)立客戶端（或?yàn)g覽器的ActiveX插件）來上傳文件，則支持?jǐn)帱c(diǎn)續(xù)傳將是一件非常簡單的事情，只需在客戶端記錄文件上傳狀態(tài)。而支持瀏覽器斷點(diǎn)續(xù)傳（無需安裝第三方插件）一般來說是要比自己做獨(dú)立客戶端上傳難度大一些，但也不難。我的實(shí)現(xiàn)思路如下：

一、瀏覽器在上傳某個(gè)文件時(shí)候，先給這個(gè)文件生成一個(gè)HASH值，必須在瀏覽器端生成這個(gè)HASH值。

不能單循地依據(jù)文件名來查詢文件上傳記錄，文件名的重復(fù)性很大，文件名 + 文件尺寸組成的值重復(fù)性縮小，如果再加上文件修改時(shí)間，則重復(fù)性進(jìn)一步縮小，如果再加上一個(gè)瀏覽器的 ID可以進(jìn)一步縮小重復(fù)性沖突。最好的HASH值的計(jì)算方法是用文件的內(nèi)容進(jìn)行MD5計(jì)算，但計(jì)算量極大（其實(shí)也沒有必要這么做），過多的耗時(shí)會(huì)影響上傳的體驗(yàn)。

基于上述理由，我的HASH值計(jì)算思路如下：

首先給瀏覽器賦予一個(gè)ID，這個(gè)ID保存在Cookie里；

瀏覽器的 ID+ 文件的修改時(shí)間 + 文件名 + 文件尺寸 的結(jié)果進(jìn)行MD5來計(jì)算一個(gè)文件的HASH值；

瀏覽器的ID 是系統(tǒng)在瀏覽器訪問文件上傳站點(diǎn)時(shí)自動(dòng)給瀏覽器授予的。

//簡單的Cookie幫助函數(shù) function setCookie（cname，cvalue，exdays）

{

var d = new Date（）;

d.setTime（d.getTime（）+（exdays*24*60*60*1000））;

var expires = “expires=”+d.toGMTString（）;

document.cookie = cname + “=” + cvalue + “; ” + expires;

}

function getCookie（cname）

{

var name = cname + “=”;

var ca = document.cookie.split（‘;’）;

for（var i=0; i《ca.length; i++）

{

var c = ca［i］.trim（）;

if （c.indexOf（name）==0） return c.substring（name.length，c.length）;

}

return “”;

}

// //簡單的文件HASH值計(jì)算，如果您不是十分考究，應(yīng)該可以用于產(chǎn)品。 //由于計(jì)算文件HASH值用到了多種數(shù)據(jù)，因此在HYFileUploader系統(tǒng)范圍內(nèi)發(fā)生HASH沖突的可能性應(yīng)該非常小，應(yīng)該可以放心使用。 //獲取文件的ID可以用任何算法來實(shí)現(xiàn)，只要保證做到同一文件的ID是相同的即可，獲取的ID長度不要超過32字節(jié) // function getFileId （file）

{

//給瀏覽器授予一個(gè)唯一的ID用于區(qū)分不同的瀏覽器實(shí)例（不同機(jī)器或者相同機(jī)器不同廠家的瀏覽器）

var clientid = getCookie（“HUAYIUPLOAD”）;

if （clientid == “”） {

//用一個(gè)隨機(jī)值來做瀏覽器的ID，將作為文件HASH值的一部分

var rand = parseInt（Math.random（） * 1000）;

var t = （new Date（））.getTime（）;

clientid =rand+‘T’+t;

setCookie（“HUAYIUPLOAD”，clientid，365）;

}

var info = clientid;

if （file.lastModified）

info += file.lastModified;

if （file.name）

info += file.name;

if （file.size）

info += file.size;

//https://cdn.bootcss.com/blueimp-md5/2.10.0/js/md5.min.js

var fileid = md5（info）;

return fileid;

}

筆者認(rèn)為：不必通過讀取文件的內(nèi)容來計(jì)算HASH值，這樣會(huì)非常慢的。如果確實(shí)需要實(shí)現(xiàn)HTTP秒傳，可能得這么做，這樣如果不同的人上傳的文件內(nèi)容一致，就可避免重復(fù)上傳，直接返回結(jié)果即可。

之所以給瀏覽器賦予一個(gè)ID，這樣可以進(jìn)一步避免別的計(jì)算機(jī)的同名同尺寸文件的HASH值沖突。

二、查詢文件的HASH值

在文件上傳支持，先通過文件的HASH值從上傳服務(wù)器查詢文件的上傳進(jìn)度信息，然后從上傳進(jìn)度位置開始上傳，代碼如下：

var fileObj = currentfile;

var fileid = getFileId（fileObj）;

var t = （new Date（））.getTime（）;

//通過以下URL獲取文件的斷點(diǎn)續(xù)傳信息，必須的參數(shù)為fileid，后面追加t參數(shù)是避免瀏覽器緩存 var url = resume_info_url + ‘？fileid=’+fileid + ‘&t=’+t;

var ajax = new XMLHttpRequest（）;

ajax.onreadystatechange = function （） {

if（this.readyState == 4）{

if （this.status == 200）{

var response = this.responseText;

var result = JSON.parse（response）;

if （！result） {

alert（‘服務(wù)器返回的數(shù)據(jù)不正確，可能是不兼容的服務(wù)器’）;

return;

}

//斷點(diǎn)續(xù)傳信息返回的文件對(duì)象包含已經(jīng)上傳的尺寸

var uploadedBytes = result.file && result.file.size;

if （！result.file.finished && uploadedBytes 《 fileObj.size） {

upload_file（fileObj，uploadedBytes，fileid）;

}

else {

//文件已經(jīng)上傳完成了，就不要再上傳了，直接返回結(jié)果就可以了

showUploadedFile（result.file）;

//模擬進(jìn)度完成

//var progressBar = document.getElementById（‘progressbar’）;

//progressBar.value = 100;

}

}else {

alert（‘獲取文件斷點(diǎn)續(xù)傳信息失敗’）;

}

}

}

ajax.open（‘get’，url，true）;

ajax.send（null）;

以上是通過 jQuery-file-upload組件的實(shí)現(xiàn)，通過原始Javascript的實(shí)現(xiàn)代碼請參見demos目錄的h4resume.html樣本代碼。

三、執(zhí)行上傳

在查詢完文件的斷點(diǎn)續(xù)傳信息后，如果文件確實(shí)以前已經(jīng)上傳，服務(wù)器將返回已經(jīng)上傳過的文件尺寸，我們接著從已經(jīng)上傳的文件尺寸位置開始上傳數(shù)據(jù)即可。

html5的File對(duì)象的 slice 可以用于從文件切取片段來上傳。

定義和用法

slice（） 方法可提取字文件的某個(gè)部分，并以新的字符串返回被提取的部分。

語法

File.slice（start，end）

參數(shù) 描述

start 要抽取的片斷的起始下標(biāo)。如果是負(fù)數(shù)，則該參數(shù)規(guī)定的是從字符串的尾部開始算起的位置。也就是說，-1 指字符串的最后一個(gè)字符，-2 指倒數(shù)第二個(gè)字符，以此類推。

end 緊接著要抽取的片段的結(jié)尾的下標(biāo)。若未指定此參數(shù)，則要提取的子串包括 start 到原字符串結(jié)尾的字符串。另外，關(guān)注Java知音公眾號(hào)，回復(fù)“后端面試”，送你一份面試題寶典！

如果該參數(shù)是負(fù)數(shù)，那么它規(guī)定的是從字符串的尾部開始算起的位置。

實(shí)現(xiàn)分片文件上傳的代碼如下：

/*

文件上傳處理代碼

fileObj ： html5 File 對(duì)象

start_offset： 上傳的數(shù)據(jù)相對(duì)于文件頭的起始位置

fileid： 文件的ID，這個(gè)是上面的getFileId 函數(shù)獲取的，

*/

function upload_file（fileObj，start_offset，fileid）

{

var xhr = new XMLHttpRequest（）;

var formData = new FormData（）;

var blobfile;

if（start_offset 》= fileObj.size）{

return false;

}

var bitrateDiv = document.getElementById（“bitrate”）;

var finishDiv = document.getElementById（“finish”）;

var progressBar = document.getElementById（‘progressbar’）;

var progressDiv = document.getElementById（‘percent-label’）;

var oldTimestamp = 0;

var oldLoadsize = 0;

var totalFilesize = fileObj.size;

if （totalFilesize == 0） return;

var uploadProgress = function （evt） {

if （evt.lengthComputable） {

var uploadedSize = evt.loaded + start_offset;

var percentComplete = Math.round（uploadedSize * 100 / totalFilesize）;

var timestamp = （new Date（））.valueOf（）;

var isFinish = evt.loaded == evt.total;

if （timestamp 》 oldTimestamp || isFinish） {

var duration = timestamp - oldTimestamp;

if （duration 》 500 || isFinish） {

var size = evt.loaded - oldLoadsize;

var bitrate = （size * 8 / duration /1024） * 1000; //kbps

if （bitrate 》 1000）

bitrate = Math.round（bitrate / 1000） + ‘Mbps’;

else

bitrate = Math.round（bitrate） + ‘Kbps’;

var finish = evt.loaded + start_offset;

if （finish 》 1048576）

finish = （Math.round（finish / （1048576/100）） / 100）.toString（） + ‘MB’;

else

finish = （Math.round（finish / （1024/100） ） / 100）.toString（） + ‘KB’;

progressBar.value = percentComplete;

progressDiv.innerHTML = percentComplete.toString（） + ‘%’;

bitrateDiv.innerHTML = bitrate;

finishDiv.innerHTML = finish;

oldTimestamp = timestamp;

oldLoadsize = evt.loaded;

}

}

}

else {

progressDiv.innerHTML = ‘N/A’;

}

}

xhr.onreadystatechange = function（）{

if （ xhr.readyState == 4 && xhr.status == 200 ） {

console.log（ xhr.responseText ）;

}

else if （xhr.status == 400） {

}

};

var uploadComplete = function （evt） {

progressDiv.innerHTML = ‘100%’;

var result = JSON.parse（evt.target.responseText）;

if （result.result == ‘success’） {

showUploadedFile（result.files［0］）;

}

else {

alert（result.msg）;

}

}

var uploadFailed = function （evt） {

alert（“上傳文件失??！”）;

}

var uploadCanceled = function （evt） {

alert（“上傳被取消或者瀏覽器斷開了連接！”）;

}

//設(shè)置超時(shí)時(shí)間，由于是上傳大文件，因此千萬不要設(shè)置超時(shí)

//xhr.timeout = 20000;

//xhr.ontimeout = function（event）{

// alert（‘文件上傳時(shí)間太長，服務(wù)器在規(guī)定的時(shí)間內(nèi)沒有響應(yīng)！’）;

//}

xhr.overrideMimeType（“application/octet-stream”）;

var filesize = fileObj.size;

var blob = fileObj.slice（start_offset，filesize）;

var fileOfBlob = new File（［blob］， fileObj.name）;

//附加的文件數(shù)據(jù)應(yīng)該放在請求的前面

formData.append（‘filename’， fileObj.name）;

//必須將fileid信息傳送給服務(wù)器，服務(wù)器只有在獲得了fileid信息后才對(duì)文件做斷點(diǎn)續(xù)傳處理

formData.append（‘fileid’， fileid）;

//請將文件數(shù)據(jù)放在最后的域

//formData.append（“file”，blob， fileObj.name）;

formData.append（‘file’， fileOfBlob）;

xhr.upload.addEventListener（“progress”， uploadProgress， false）;

xhr.addEventListener（“l(fā)oad”， uploadComplete， false）;

xhr.addEventListener（“error”， uploadFailed， false）;

xhr.addEventListener（“abort”， uploadCanceled， false）;

xhr.open（‘POST’， upload_file_url）;

//

xhr.send（formData）;

}

為了驗(yàn)證文件斷點(diǎn)續(xù)傳，筆者做了一個(gè)簡單的界面，用于顯示文件上傳的過程中的狀態(tài)信息。

通過HTML可以計(jì)算文件上傳的進(jìn)度，文件已經(jīng)上傳的尺寸，文件上傳的位率等信息，如果在上傳過程中出現(xiàn)任何異常，則重新上傳即可，已經(jīng)上傳的部分將不需要重新上傳。

為了驗(yàn)證HTML5斷點(diǎn)續(xù)傳，可以通過 github來下載 這個(gè)文件上傳服務(wù)器來進(jìn)行測試。

https://github.com/wenshui2008/UploadServer

來源：blog.csdn.net/ababab12345/article/details/80490621

編輯：jq