日日操夜夜添-日日操影院-日日草夜夜操-日日干干-精品一区二区三区波多野结衣-精品一区二区三区高清免费不卡

公告:魔扣目錄網(wǎng)為廣大站長提供免費收錄網(wǎng)站服務(wù),提交前請做好本站友鏈:【 網(wǎng)站目錄:http://www.ylptlb.cn 】, 免友鏈快審服務(wù)(50元/站),

點擊這里在線咨詢客服
新站提交
  • 網(wǎng)站:51998
  • 待審:31
  • 小程序:12
  • 文章:1030137
  • 會員:747

這是一道高頻的面試題,而且在很多技術(shù)中都使用到了,比如JAVANIO、kafka、Netty、linux等等。作為一個非常重要的知識點,而且又是高頻面試題,有必要從零開始好好地認(rèn)識一下。即使你是剛?cè)腴T的同行,相信也能看的懂。

OK,開始今天的文章。

一、什么是零拷貝?

1、從一個案例說起

為了解釋這個概念,我們先要從一個需求說起,說某天某領(lǐng)導(dǎo)給你下發(fā)了一個任務(wù),完成一個從文件中讀取數(shù)據(jù),并傳輸?shù)骄W(wǎng)絡(luò)上的一個小程序。代碼很簡單:

首先我們在我們的操作系統(tǒng)中找到這個文件,然后把數(shù)據(jù)先讀到緩沖區(qū),最后把緩沖區(qū)的數(shù)據(jù)發(fā)送到網(wǎng)絡(luò)上。

代碼是很簡單,現(xiàn)在我們考慮一下,這個數(shù)據(jù)從電腦到網(wǎng)絡(luò)整個傳輸?shù)倪^程:

高頻面試題:什么是零拷貝?在哪些地方使用了?

 

現(xiàn)在我們可以看到1->2->3->4的整個過程一共經(jīng)歷了四次拷貝的方式,但是真正消耗資源和浪費時間的是第二次和第三次,因為這兩次都需要經(jīng)過我們的CPU拷貝,而且還需要內(nèi)核態(tài)和用戶態(tài)之間的來回切換。想想看,我們的CPU資源是多么寶貴,要處理大量的任務(wù)。還要去拷貝大量的數(shù)據(jù)。如果能把CPU的這兩次拷貝給去除掉,豈不快哉!!!既能節(jié)省CPU資源,還可以避免內(nèi)核態(tài)和用戶態(tài)之間的切換。

這里還要先說一下用戶態(tài)和內(nèi)核態(tài)的區(qū)別:

處于用戶態(tài)執(zhí)行時,進程所能訪問的內(nèi)存空間和對象受到限制,其所處于占有的處理器是可被搶占的

處于內(nèi)核態(tài)執(zhí)行時,則能訪問所有的內(nèi)存空間和對象,且所占有的處理器是不允許被搶占的。

2、優(yōu)化方案

要去除第二次和第三次之間的拷貝,Linux開發(fā)人員也早就注意到了這個問題,于是在linux 2.1內(nèi)核中,添加了 “數(shù)據(jù)被copy到socket buffer”的動作,于是我們的javaNIO,可以直接調(diào)用transferTo()的方法,就可以實現(xiàn)這種現(xiàn)象。

高頻面試題:什么是零拷貝?在哪些地方使用了?

 

現(xiàn)在一看,感覺性能資源都得到了很大的提升,不過現(xiàn)在還不并不是完美的。因為這三次拷貝還用到了CPU的拷貝技術(shù),就是第二次。不過不要擔(dān)心。Linux開發(fā)人員比我們更加深謀遠慮。

3、零拷貝優(yōu)化方案

在Linux2.4 內(nèi)核做了優(yōu)化,取而代之的是只包含關(guān)于數(shù)據(jù)的位置和長度的信息的描述符被追加到了socket buffer 緩沖區(qū)中。DMA引擎直接把數(shù)據(jù)從內(nèi)核緩沖區(qū)傳輸?shù)絽f(xié)議引擎(protocol engine),從而消除了最后一次CPU copy。經(jīng)過上述過程,數(shù)據(jù)只經(jīng)過了2次copy就從磁盤傳送出去了。這個才是真正的Zero-Copy

高頻面試題:什么是零拷貝?在哪些地方使用了?

 

 

注意:這里的零拷貝其實是根據(jù)內(nèi)核狀態(tài)劃分的,在這里沒有經(jīng)過CPU的拷貝,數(shù)據(jù)在用戶態(tài)的狀態(tài)下,經(jīng)歷了零次拷貝,所以才叫做零拷貝,但不是說不拷貝。

如果之前看過我的Netty系列的前兩篇文章,應(yīng)該都知道里面為了解決拆包和粘包的問題,Netty會在每一個數(shù)據(jù)包里面加一些特殊描述符。這里同樣也是。

OK。現(xiàn)在我們已經(jīng)了解了什么是零拷貝技術(shù),下面我們再說一下那些數(shù)據(jù)結(jié)構(gòu)會用到零拷貝技術(shù)。

二、哪些地方會用到零拷貝技術(shù)

1、java的NIO

先說java,是因為要給下面的netty做鋪墊,在 Java NIO 中的通道(Channel)就相當(dāng)于操作系統(tǒng)的內(nèi)核空間(kernel space)的緩沖區(qū),而緩沖區(qū)(Buffer)對應(yīng)的相當(dāng)于操作系統(tǒng)的用戶空間(user space)中的用戶緩沖區(qū)(user buffer)。

堆外內(nèi)存(DirectBuffer)在使用后需要應(yīng)用程序手動回收,而堆內(nèi)存(HeapBuffer)的數(shù)據(jù)在 GC 時可能會被自動回收。因此,在使用 HeapBuffer 讀寫數(shù)據(jù)時,為了避免緩沖區(qū)數(shù)據(jù)因為 GC 而丟失,NIO 會先把 HeapBuffer 內(nèi)部的數(shù)據(jù)拷貝到一個臨時的 DirectBuffer 中的本地內(nèi)存(native memory),這個拷貝涉及到 sun.misc.Unsafe.copyMemory() 的調(diào)用,背后的實現(xiàn)原理與 memcpy() 類似。 最后,將臨時生成的 DirectBuffer 內(nèi)部的數(shù)據(jù)的內(nèi)存地址傳給 I/O 調(diào)用函數(shù),這樣就避免了再去訪問 Java 對象處理 I/O 讀寫。

(1)MAppedByteBuffer

MappedByteBuffer 是 NIO 基于內(nèi)存映射(mmap)這種零拷貝方式的提供的一種實現(xiàn),意思是把一個文件從 position 位置開始的 size 大小的區(qū)域映射為內(nèi)存映像文件。這樣之添加地址映射,而不進行拷貝。

(2)DirectByteBuffer

DirectByteBuffer 的對象引用位于 Java 內(nèi)存模型的堆里面,JVM 可以對 DirectByteBuffer 的對象進行內(nèi)存分配和回收管理,是 MappedByteBuffer 的具體實現(xiàn)類。因此同樣具有零拷貝技術(shù)。

(3)FileChannel

FileChannel 定義了 transferFrom() 和 transferTo() 兩個抽象方法,它通過在通道和通道之間建立連接實現(xiàn)數(shù)據(jù)傳輸?shù)摹?/p>

我們直接看Linux2.4的版本,socket緩沖區(qū)做了調(diào)整,DMA帶收集功能。

(1)DMA從拷貝至內(nèi)核緩沖區(qū)

(2)將數(shù)據(jù)的位置和長度的信息的描述符增加至內(nèi)核空間(socket緩沖區(qū))

(3)DMA將數(shù)據(jù)從內(nèi)核拷貝至協(xié)議引擎

這個復(fù)制過程是零拷貝過程。

2、Netty

Netty 中的零拷貝和上面提到的操作系統(tǒng)層面上的零拷貝不太一樣, 我們所說的 Netty 零拷貝完全是基于(Java 層面)用戶態(tài)的。

(1)Netty 通過 DefaultFileRegion 類對FileChannel 的 tranferTo() 方法進行包裝,相當(dāng)于是間接的通過java進行零拷貝。

(2)我們的數(shù)據(jù)傳輸一般都是通過TCP/IP協(xié)議實現(xiàn)的,在實際應(yīng)用中,很有可能一條完整的消息被分割為多個數(shù)據(jù)包進行網(wǎng)絡(luò)傳輸,而單個的數(shù)據(jù)包對你而言是沒有意義的,只有當(dāng)這些數(shù)據(jù)包組成一條完整的消息時你才能做出正確的處理,而Netty可以通過零拷貝的方式將這些數(shù)據(jù)包組合成一條完整的消息供你來使用。

此時零拷貝的作用范圍僅在用戶空間中。那Netty是如何實現(xiàn)的呢?為此我們就要找到Netty進行數(shù)據(jù)傳輸?shù)慕涌冢@個接口一定包含了可以實現(xiàn)零拷貝的功能,這個接口就是ChannelBuffer。

既然有接口肯定就有實現(xiàn)類,一個最主要的實現(xiàn)類是CompositeChannelBuffer,這個類的主要作用是將多個ChannelBuffer組成一個虛擬的ChannelBuffer來進行操作

為什么說是虛擬的呢,因為CompositeChannelBuffer并沒有將多個ChannelBuffer真正的組合起來,而只是保存了他們的引用,這樣就避免了數(shù)據(jù)的拷貝,實現(xiàn)了Zero Copy。

(3)ByteBuf 可以通過 wrap 操作把字節(jié)數(shù)組、ByteBuf、ByteBuffer 包裝成一個 ByteBuf 對象, 進而避免了拷貝操作

(4)ByteBuf 支持 slice 操作, 因此可以將 ByteBuf 分解為多個共享同一個存儲區(qū)域的 ByteBuf,避免了內(nèi)存的拷貝

3、kafka

Kafka 的索引文件使用的是 mmap + write 方式,數(shù)據(jù)文件使用的是 sendfile 方式。適用于系統(tǒng)日志消息這種高吞吐量的大塊文件的數(shù)據(jù)持久化和傳輸。

如果有10個消費者,傳統(tǒng)方式下,數(shù)據(jù)復(fù)制次數(shù)為4*10=40次,而使用“零拷貝技術(shù)”只需要1+10=11次,一次為從磁盤復(fù)制到頁面緩存,10次表示10個消費者各自讀取一次頁面緩存。

OK,先到這里。

分享到:
標(biāo)簽:拷貝
用戶無頭像

網(wǎng)友整理

注冊時間:

網(wǎng)站:5 個   小程序:0 個  文章:12 篇

  • 51998

    網(wǎng)站

  • 12

    小程序

  • 1030137

    文章

  • 747

    會員

趕快注冊賬號,推廣您的網(wǎng)站吧!
最新入駐小程序

數(shù)獨大挑戰(zhàn)2018-06-03

數(shù)獨一種數(shù)學(xué)游戲,玩家需要根據(jù)9

答題星2018-06-03

您可以通過答題星輕松地創(chuàng)建試卷

全階人生考試2018-06-03

各種考試題,題庫,初中,高中,大學(xué)四六

運動步數(shù)有氧達人2018-06-03

記錄運動步數(shù),積累氧氣值。還可偷

每日養(yǎng)生app2018-06-03

每日養(yǎng)生,天天健康

體育訓(xùn)練成績評定2018-06-03

通用課目體育訓(xùn)練成績評定