2019年12月20日,美國波音公司的新一代載人飛船Starliner“星際客機”自卡納維拉爾角發射升空,執行該飛船的第一次飛行測試任務。按照計劃,飛船在這次無人試飛中將與國際空間站對接,為宇航員送上圣誕禮物。然而在運載火箭工作結束后,飛船出現故障,最終無法與國際空間站對接,不得不提前返回地面。
試飛失敗之后,波音公司公開承認,飛船的軟件系統存在嚴重缺陷,在測試階段時僅將整個飛行過程分成了幾個小單元分別進行測試,但未對飛船進行從發射、空間站對接到返航著陸的全流程集成測試。
從這個案例不難看出,質量是產品的生命線,質量問題輕則帶來業務故障,重則造成人員傷亡和財產損失。近年來,業界知名的軟件質量事故時有發生,不僅涉及金融、航空、交通、民生等不同行業,也影響用戶數據、SaaS應用、數字化基礎設施等各業務領域。
在萬物互聯的時代,軟件的規?;?、復雜化程度不斷提升,但是產品質量問題依然嚴峻。作為產品質量的“守護神”,測試管理承載著構建質量全方位防護盾的使命,是各行業保障產品開發與交付的關鍵。
測試管理,如何成為軟件質量的“守護神”?
在軟件研發中,測試是一個包含計劃、準備和測量活動的過程,其目的是確認被測系統的特性,并指出需求和實現之間的差異。隨著現代軟件開發的規模持續增長,滿足全場景、大規模、高并發業務的測試服務平臺,已成為提升軟件測試效率、保障測試質量的必備要素。
華為視質量為企業的生命,質量是華為價值主張和品牌形象的基石。一直以來,華為持續投入質量建設,把產品開發、測試等全生命周期的流程和標準固化至工具平臺中。同時,華為將測試管理的標準化理念融入IPD流程,指導云計算、網絡、終端、芯片、汽車等業務測試實踐,保障產品高質量交付。
經過多年的豐富開發實踐,華為總結出測試管理的三大原則:
第一,構建質量分層防護網,明確各層測試活動輸入輸出和質量門禁
首先,在總體策略階段,明確不同層級的責任主體和準入、準出門禁,遵循“測試盡早介入”基本原則,從而讓質量風險盡早暴露,降低整體修復成本;其次,明確各層級的測試全過程,包括設計、實現、執行和評估階段的準入和準出條件,并通過質量規范檢查和評審保障,一次性把事情做對。
第二,測試模板數字化,關鍵資產基線化
借助統一工具平臺,把測試經驗和質量要求標準化成數字化模板,包括總體測試策略、測試方案、測試用例、測試報告模板等。在測試作業中,開發人員可隨時隨地應用模板,自動對接上游獲取關聯需求等輸入數據,自動對接下游提升作業和跟蹤效率。在項目完成時,及時將測試用例等關鍵測試資產合并到產品基線持續演進,以便跨項目和迭代復用,保障大規模項目的測試設計和評估無遺漏,測試過程可跟蹤、可閉環。
第三,測試過程端到端持續監控、審核和反饋
在端到端測試過程中,首先,測試過程需實現端到端雙向可追溯;其次,關鍵交付件需通過評審和確認;最后,需及時識別在迭代測試過程中的進展和質量風險,動態調整測試計劃。通過測試過程中的全周期監控和審核,促進測試過程持續改進優化。
總之,測試流程標準化、測試過程數字化、測試資產基線化是做好測試管理,進而實現測試自動化、智能化的基礎。基于測試流程標準化體系,企業可更好保障測試活動高效、協同和可信。
華為云CodeArts TestPlan,內建高效協同可信的測試理念,助力產品高質量發布
2023年1月,華為將內部多年測試實踐沉淀的測試管理服務,升級為全新的CodeArts TestPlan服務,重磅上線華為云。這是一款自主研發的一站式測試管理平臺,沉淀了華為30多年高質量的測試工程方法與實踐,覆蓋測試計劃、測試設計、測試執行和測試評估等全流程,旨在幫助企業協同、高效、可信地開展軟件開發測試活動,保障產品上市質量。
在產品研發測試過程中,企業往往面臨一系列挑戰:產品測試設計粗放,測試執行覆蓋不全,漏測導致現網事故時有發生;產品架構復雜,組件并行分支多,跨團隊跨項目測試協同效率低;測試人員流動率大,產品頻繁重構,亟需高質量的測試工程能力來驗證存量特性,保障產品功能正常,高質量上線。
針對這一系列研發測試挑戰,華為云CodeArts TestPlan重磅發布五大特性:
特性一:啟發式測試策略與設計,讓測試完備性不再遙不可及
缺陷越早發現,修復成本越低。數據顯示,產品發布后每個缺陷的平均修復成本是驗證階段的6倍以上。遺留到產品發布后的缺陷,不僅會大量增加企業的研發修復成本,還會影響產品的口碑和客戶滿意度。因此,如何提升測試的完備性,提前攔截產品缺陷,是企業產品質量面臨的TOP級問題。
針對這一研發痛點,華為云CodeArts TestPlan提供了多維度測試策略和設計模板,應用啟發式測試策略和設計模型,提供“需求-場景-測試點-測試用例”四層測試分解設計能力,啟發測試人員發散性思維,將腦海中的測試模型圖形化地表達,支撐所有利益干系人高效溝通與交流;通過該特性,能夠持續優化測試完備度,提升30%的測試設計效率,幫助測試人員在執行過程中減少產品測試遺漏。
啟發式測試策略與設計
特性二:億級測試資產管理,大規模團隊協同測試,保障產品特性不丟失
產品的競爭力特性是企業持續盈利基業長青的基石。為了滿足各行業客戶日益增長的需求,企業的軟件產品特性往往不斷豐富和演進,對應的測試用例資產持續增多,投入測試的人數也隨之增加。如何管理好大規模測試資產,如何協同大規模測試團隊,如何保證客戶的價值特性不丟失、體驗不下降,都是企業產品測試面臨的關鍵挑戰。
華為云CodeArts TestPlan提供了測試用例基線化管理能力,持續積累和沉淀測試用例,幫助企業實現產品價值特性的看護。不管是新增需求或者重構架構,積累的基線化用例,永遠是企業產品持續獲得客戶認可的保障。同時,TestPlan提供了“產品基線庫、版本分支、測試計劃”三層用例管理和評估能力,支撐團隊間作業高效協同,實現億級測試資產的管理與跨版本復用,滿足復雜產品多版本并行研發交付的場景,測試資產復用率提升60%。
TestPlan全量用例基線化管理
特性三:內置IPD測試流程與規范,讓高質量從偶然到必然
隨著產品的規模和復雜度增加,測試活動的開展也需要有章可循,形成科學的流程和規范。以華為公司為例,為保障產品測試活動有序開展,華為在IPD流程中定義了從需求分析階段到版本發布階段之間的詳細測試活動和流程,并通過標準化的規范,持續保障測試驗證的高質量。
華為云CodeArts TestPlan內置IPD測試流程與規范,從測試策略、測試設計、測試管理、測試執行到測試評估,全流程融入IPD高質量實踐精髓,并伴隨著華為產品發展而持續優化演進,廣泛應用于華為各業務線的產品測試中。
IPD測試活動核心流程圖
特性四:全方位測試質量評估,杜絕盲人摸象
管理學大師彼得·德魯克說過,沒有度量,就沒有管理。所有商業產品質量管理都不例外。基于成熟的測試質量評估模型和規范,對產品質量的科學、客觀評估,可以讓產品質量可視化、可度量,讓產品發布前的質量評估不再“盲人摸象”,更利于產品持續改進,“讓質量暴露在陽光下”,達成高質量的目標。
華為云CodeArts TestPlan提供需求覆蓋率、需求通過率、用例執行率、遺留缺陷指數等10多個質量度量指標,支持功能、性能、可靠性等維度的質量評估,測試評估周期從天級縮短到小時級。
TestPlan同時提供了分支和測試計劃兩級的實時質量報告,全方位、可視化呈現研發測試過程和結果數據。該特性支持產品研發階段的實時質量評估,及時、高效、準確地呈現產品質量現狀,讓研發人員實時掌控研發進度和風險,讓產品質量不再是黑盒,為產品上線提供決策依據。
全方位多維度的測試質量評估
特性五:建立測試雙向追溯鏈,以過程可信保障結果可信
ISO15288測試規范定義了通用系統生命周期過程,其中,驗證過程與確認過程中提出了對需求、測試設計方案、用例、缺陷等雙向可追溯的要求。在華為內部,測試過程端到端可追溯也成為了明文要求的標準。
可追溯的測試過程能力,可以使組織和項目實現測試過程證據鏈可視化、及時監控和識別測試過程風險,加速跟蹤問題閉環,有效減少漏測問題,及時發現質量風險,是產品高質量測試的必要條件。
華為云CodeArts TestPlan支持建立需求、測試方案、測試用例、缺陷等雙向關聯,實現測試過程可追溯,通過可信的測試過程,保障結果可信。
測試雙向追溯鏈
基于以上五大特性,華為云CodeArts TestPlan可實現測試全流程標準化、測試資產復用及基線化、測試端到端過程動態實時監控,保障測試過程可信,持續助力客戶產品高質量交付。
截至2022年年底,華為云CodeArts TestPlan已經高效支撐華為超過4萬測試人員的測試作業,測試用例月執行超過2億次,月API調用量超過12億次,累計管理超過10億測試用例,覆蓋華為終端、網絡、云計算、芯片、汽車等大規模復雜業務場景。
例如,華為數通路由器業務擁有豐富的產品系列,包括骨干網、城域網、接入網各種場景的組網需求,億級規模的軟件代碼驅動各類硬件形態,構筑了路由器業務海量的功能特性。這種超大規模、高復雜度的產品測試,需要與之相對應的大規模測試團隊。在海量硬件形態與有限的時間和資源下,如何高效找準測試靶心,確保測試范圍精準、無遺漏、無冗余,保證產品的質量、可靠性與合規性,是華為數通路由器測試業務面臨的挑戰。
華為云CodeArts TestPlan支持海量特性的高效測試管理,在特性需求開發的同時,通過基于需求-場景-測試點-用例的分級測試設計方法,將需求逐級分解生成用例,并分層分級有序管理,支持用例在不同產品版本間高效復用及合并。同時,平臺提供多維度版本質量評估報告,及時準確反饋測試結論,通過需求、方案、用例、結果、缺陷雙向可追溯的能力,實現產品測試過程可管理、可信任。
得益于這些特性,華為云CodeArts TestPlan幫助華為數通路由器產品繼承復用十余萬存量特性用例,累計管理近百萬用例,支撐大規模測試團隊高效協作,快速開展測試活動,全量測試執行周期從周縮短至天,確保路由器產品高效率高質量交付。
過去30多年來,華為公司一步步經歷了流程化、自動化、智能化的測試發展歷程,基于協同、高效、可信的測試理念,形成了豐富而完整的測試體系。展望未來,華為云CodeArts TestPlan將不斷沉淀大型企業測試最佳實踐,打造測試覆蓋全、測試評估準、測試執行快、測試周期短、測試成本低的測試管理平臺,持續提升關鍵技術競爭力,守護客戶產品質量,助力客戶商業成功。