博特智能（BotSmart）自成立以來始終致力于研發人工智能(AI)的圖像識別、文本分析、聲音識別等技術。面對互聯網內容量UGC產量日益巨增，該公司利用人工智能(AI)技術協助互聯網企業對網絡內容進行快速且精準的審核和過濾。
作為一家專注信息內容安全和內容審核的公司，博特智能做了充足的準備工作，收集儲備了不同類型數量豐富的圖片和文本信息，以自研的深度學習算法，實現了對互聯網內容高效的審核和過濾。
應對海量內容分析，需要更高系統算力
在應對網絡海量內容審核的業務場景時，博特智能發現違規內容的類型繁雜，涉及涉政、涉恐、涉黃、廣告等方面，媒體形式包含文本、圖片、視頻、音頻等。面對此種情況，需要收集大量圖片和文本才能進行機器學習的訓練。
此外，每種違規類型的具體情況又有多重變化。系統學習得越多，系統的識別率就越高。海量的學習訓練，量級越高，對識別率的精準度幫助越大，這對訓練系統的算力提出了很高的要求。
在內容審核的實時分析方面，企業客戶的業務要求越來越嚴苛，對提交的圖片和文本等內容多數希望能立即分析完成返回結果，這就對單任務的分析計算速度有了極高要求。而另一方面，互聯網用戶的自由度不受限，在短時間提交大量內容的情況近期頻發。要對相關網絡內容安全性進行審核，就等同于日均圖片的識別量高達一億的數量，并且最終將成常態，這對服務器造成的壓力是此前相關內容審核從業人員不曾遇到的。
NVIDIA RTX Server，超強算力應對多種需求
面對這些挑戰，博特智能通常通過建立CPU+GPU異構計算，匯集成百上千服務器的集群用來滿足算力需求。同時，服務器集群需要能夠根據GPU使用情況支持自動擴容縮容，從而實現資源合理分配。
博特智能一直采用NVIDIA GPU搭建的多卡服務器集群，用于訓練模型和推理計算。NVIDIA的多卡服務器集群可以滿足內容審核的人工智能運算需求。
設計方案示例——圖像多GPU集群 利用NVIDIA多GPU集群實現每天一億張的海量圖片處理，每張圖片處理速度可達
博特智能目前采用NVIDIA RTX 8000作為訓練和推斷的顯卡，這跟原有GTX1080 Ti性能相比有了比較大的提升，在運行ResNet-50的訓練時，每秒處理的圖片數量由原來的207張提升到290張。
在模型訓練階段，借助NVIDIA GPU多卡服務器集群，讓訓練速度有了質的飛躍。訓練時間大大縮短極大的加快了模型迭代的速度，從而很快完成模型訓練并部署測試。而后根據結果修改算法，又可以更快的開始新一輪訓練，更快的滿足企業用戶各種定制化審核模型的需求。
NVIDIA RTX 8000各項指標都很優秀，不僅具備更多的CUDA核心，還擁有更大的顯存空間和更高的顯存帶寬。單卡渲染速度在50秒以內，而滿載額時，每秒處理數量最多為643張。在渲染的同時還能實現去AI噪點以及其它AI推理工作。
NVIDIA RTX 8000實時光線追蹤功能因48GB的大顯存及Tensor Cores的加持，加深了AI推理和深度學習的速度，讓更多的數據可加載到顯存，在很大程度上加快了計算速度，減少了數據拷貝的時間。
NVIDIA GPU還對公司圖文、音頻、視頻的模型訓練給予了極為良好的支持。顯示接口由從前的4xDP+1xDVI升級為了4xDP+1xVirtualink配置。DP接口最高分辨率可達7680*4320，是一代VR設備的標準接口，這對公司已經在計劃中的AR、XR、VR項目提前給予了支持。
在實際部署階段，NVIDIA的多卡服務器集群為算法工程師大量的數據分析提供了高效穩定的計算資源，滿足了實際部署階段的算力需求。
當大量的互聯網內容通過網絡服務進入部署的NVIDIA多卡服務器集群中時，服務器集群能夠自動擴容，根據內容的計算量進行調度，充分利用資源，實現GPU的高效利用。
GPU賦能AI落地內容審核行業
目前，博特智能的人工智能內容審核業務落地互聯網多個領域，且數量正保持高速的增長，其覆蓋的客戶包括網絡視頻、直播，音頻文學、媒體、游戲、交友、旅游出行、電商等各個領域，并將不斷擴展。
博特智能創始人兼CEO戴亦斌表示：“此前信息內容審核行業完全依靠人工進行審核，這種傳統的方式已經無法滿足不斷快速增長的互聯網內容。以人工智能審核為主的網絡內容審核必將是未來的發展方向。在NVIDIA GPU的支持下，我們能夠在每天高達一億張圖片識別量的壓力下，為用戶提供快速準確的違規內容審核和過濾，讓我們的客戶運營實現價值最大化。未來，信息內容審核行業將會是價值千億的市場。相信隨著AI技術的不斷發展和普及，我們必將能為更多企業創造更多實惠及更大的商業價值。”
