本文想針對(duì)測(cè)試中一種很常見(jiàn)的測(cè)試場(chǎng)景,即參數(shù)化測(cè)試,聊聊關(guān)于測(cè)試的話題,并嘗試將這幾個(gè)測(cè)試框架串聯(lián)起來(lái),做一個(gè)橫向的比對(duì),加深理解。
1、什么是參數(shù)化測(cè)試?
對(duì)于普通測(cè)試來(lái)說(shuō),一個(gè)測(cè)試方法只需要運(yùn)行一遍,而參數(shù)化測(cè)試對(duì)于一個(gè)測(cè)試方法,可能需要傳入一系列參數(shù),然后進(jìn)行多次測(cè)試。
比如,我們要測(cè)試某個(gè)系統(tǒng)的登錄功能,就可能要分別傳入不同的用戶名與密碼,進(jìn)行測(cè)試:使用包含非法字符的用戶名、使用未注冊(cè)的用戶名、使用超長(zhǎng)的用戶名、使用錯(cuò)誤的密碼、使用合理的數(shù)據(jù)等等。
參數(shù)化測(cè)試是一種“數(shù)據(jù)驅(qū)動(dòng)測(cè)試”(Data-Driven Test),在同一個(gè)方法上測(cè)試不同的參數(shù),以覆蓋所有可能的預(yù)期分支的結(jié)果。它的測(cè)試數(shù)據(jù)可以與測(cè)試行為分離,被放入文件、數(shù)據(jù)庫(kù)或者外部介質(zhì)中,再由測(cè)試程序讀取。
2、參數(shù)化測(cè)試的實(shí)現(xiàn)思路?
通常而言,一個(gè)測(cè)試方法就是一個(gè)最小的測(cè)試單元,其功能應(yīng)該盡量地原子化和單一化。
先來(lái)看看兩種實(shí)現(xiàn)參數(shù)化測(cè)試的思路:一種是寫(xiě)一個(gè)測(cè)試方法,在其內(nèi)部對(duì)所有測(cè)試參數(shù)進(jìn)行遍歷;另一種是在測(cè)試方法之外寫(xiě)遍歷參數(shù)的邏輯,然后依次調(diào)用該測(cè)試方法。
這兩種思路都能達(dá)到測(cè)試目的,在簡(jiǎn)單業(yè)務(wù)中,沒(méi)有毛病。然而,實(shí)際上它們都只有一個(gè)測(cè)試單元,在統(tǒng)計(jì)測(cè)試用例數(shù)情況,或者生成測(cè)試報(bào)告的時(shí)候,并不樂(lè)觀。可擴(kuò)展性也是個(gè)問(wèn)題。
那么,現(xiàn)有的測(cè)試框架是如何解決這個(gè)問(wèn)題的呢?
它們都借助了裝飾器,主要的思路是:利用原測(cè)試方法(例如 test()),來(lái)生成多個(gè)新的測(cè)試方法(例如 test1()、test2()……),并將參數(shù)依次賦值給它們。
由于測(cè)試框架們通常把一個(gè)測(cè)試單元統(tǒng)計(jì)為一個(gè)“test”,所以這種“由一生多”的思路相比前面的兩種思路,在統(tǒng)計(jì)測(cè)試結(jié)果時(shí),就具有很大的優(yōu)勢(shì)。
3、參數(shù)化測(cè)試的使用方法?
Python 標(biāo)準(zhǔn)庫(kù)中的unittest
自身不支持參數(shù)化測(cè)試,為了解決這個(gè)問(wèn)題,有人專門(mén)開(kāi)發(fā)了兩個(gè)庫(kù):一個(gè)是ddt
,一個(gè)是parameterize
。
ddt 正好是“Data-Driven Tests”(數(shù)據(jù)驅(qū)動(dòng)測(cè)試)的縮寫(xiě)。典型用法:
import unittest
from ddt import ddt,data,unpack
@ddt
class MyTest(unittest.TestCase):
@data((3, 1), (-1, 0), (1.2, 1.0))
@unpack
def test_values(self, first, second):
self.assertTrue(first > second)
unittest.main(verbosity=2)
運(yùn)行的結(jié)果如下:
test_values_1__3__1_ (__main__.MyTest) ... ok
test_values_2___1__0_ (__main__.MyTest) ... FAIL
test_values_3__1_2__1_0_ (__main__.MyTest) ... ok
==================================================
FAIL: test_values_2___1__0_ (__main__.MyTest)
--------------------------------------------------
Traceback (most recent call last):
File "C:Python36libsite-packagesddt.py", line 145, in wrApper
return func(self, *args, **kwargs)
File "C:/Users/pythoncat/PycharmProjects/study/testparam.py", line 9, in test_values
self.assertTrue(first > second)
AssertionError: False is not true
----------------------------------------------
Ran 3 tests in 0.001s
FAILED (failures=1)
結(jié)果顯示有 3 個(gè) tests,并詳細(xì)展示了運(yùn)行狀態(tài)以及斷言失敗的信息。
需要注意的是,這 3 個(gè) test 分別有一個(gè)名字,名字中還攜帶了其參數(shù)的信息,而原來(lái)的 test_values 方法則不見(jiàn)了,已經(jīng)被一拆為三。
在上述例子中,ddt 庫(kù)使用了三個(gè)裝飾器(@ddt、@data、@unpack),實(shí)在是很丑陋。下面看看相對(duì)更好用的 parameterized 庫(kù):
import unittest
from parameterized import parameterized
class MyTest(unittest.TestCase):
@parameterized.expand([(3,1), (-1,0), (1.5,1.0)])
def test_values(self, first, second):
self.assertTrue(first > second)
unittest.main(verbosity=2)
測(cè)試結(jié)果如下:
test_values_0 (__main__.MyTest) ... ok
test_values_1 (__main__.MyTest) ... FAIL
test_values_2 (__main__.MyTest) ... ok
=========================================
FAIL: test_values_1 (__main__.MyTest)
-----------------------------------------
Traceback (most recent call last):
File "C:Python36libsite-packagesparameterizedparameterized.py", line 518, in standalone_func
return func(*(a + p.args), **p.kwargs)
File "C:/Users/pythoncat/PycharmProjects/study/testparam.py", line 7, in test_values
self.assertTrue(first > second)
AssertionError: False is not true
----------------------------------------
Ran 3 tests in 0.000s
FAILED (failures=1)
這個(gè)庫(kù)只用了一個(gè)裝飾器 @parameterized.expand,寫(xiě)法上可就清爽多了。
同樣提醒下,原來(lái)的測(cè)試方法已經(jīng)消失了,取而代之的是三個(gè)新的測(cè)試方法,只是新方法的命名規(guī)則與 ddt 的例子不同罷了。
介紹完 unittest,接著看已經(jīng)死翹翹了的nose
以及新生的nose2
。nose 系框架是帶了插件(plugins)的 unittest,以上的用法是相通的。
另外,nose2 中還提供了自帶的參數(shù)化實(shí)現(xiàn):
import unittest
from nose2.tools import params
@params(1, 2, 3)
def test_nums(num):
assert num < 4
class Test(unittest.TestCase):
@params((1, 2), (2, 3), (4, 5))
def test_less_than(self, a, b):
assert a < b
最后,再來(lái)看下 pytest 框架,它這樣實(shí)現(xiàn)參數(shù)化測(cè)試:
import pytest
@pytest.mark.parametrize("first,second", [(3,1), (-1,0), (1.5,1.0)])
def test_values(first, second):
assert(first > second)
測(cè)試結(jié)果如下:
==================== test session starts ====================
platform win32 -- Python 3.6.1, pytest-5.3.1, py-1.8.0, pluggy-0.13.1
rootdir: C:UserspythoncatPycharmProjectsstudy collected 3 items
testparam.py .F
testparam.py:3 (test_values[-1-0])
first = -1, second = 0
@pytest.mark.parametrize("first,second", [(3,1), (-1,0), (1.5,1.0)])
def test_values(first, second):
> assert(first > second)
E assert -1 > 0
testparam.py:6: AssertionError
. [100%]
========================= FAILURES ==========================
_________________________ test_values[-1-0] _________________________
first = -1, second = 0
@pytest.mark.parametrize("first,second", [(3,1), (-1,0), (1.5,1.0)])
def test_values(first, second):
> assert(first > second)
E assert -1 > 0
testparam.py:6: AssertionError
===================== 1 failed, 2 passed in 0.08s =====================
Process finished with exit code 0
依然要提醒大伙注意,pytest 也做到了由一變?nèi)欢覀儏s看不到有新命名的方法的信息。這是否意味著它并沒(méi)有產(chǎn)生新的測(cè)試方法呢?或者僅僅是把新方法的信息隱藏起來(lái)了?
4、最后小結(jié)
上文中介紹了參數(shù)化測(cè)試的概念、實(shí)現(xiàn)思路,以及在三個(gè)主流的 Python 測(cè)試框架中的使用方法。我只用了最簡(jiǎn)單的例子,為的是快速科普(言多必失)。
但是,這個(gè)話題其實(shí)還沒(méi)有結(jié)束。對(duì)于我們提到的幾個(gè)能實(shí)現(xiàn)參數(shù)化的庫(kù),拋去寫(xiě)法上大同小異的區(qū)別,它們?cè)诰唧w代碼層面上,又會(huì)有什么樣的差異呢?
具體來(lái)說(shuō),它們是如何做到把一個(gè)方法變成多個(gè)方法,并且將每個(gè)方法與相應(yīng)的參數(shù)綁定起來(lái)的呢?在實(shí)現(xiàn)中,需要解決哪些棘手的問(wèn)題?
在分析一些源碼的時(shí)候,我發(fā)現(xiàn)這個(gè)話題還挺有意思,所以準(zhǔn)備另外寫(xiě)一篇文章。那么,本文就到此為止了,謝謝閱讀。
來(lái)源:Python貓
作者:豌豆花下貓