手機(jī)自動(dòng)化測(cè)試技術(shù)漫談及OPhone自動(dòng)化測(cè)試概覽
黑盒測(cè)試
相對(duì)于白盒測(cè)試而言,黑盒測(cè)試指的是通過(guò)外部指令驅(qū)動(dòng)手機(jī)并通過(guò)外部方式進(jìn)行測(cè)試結(jié)果校驗(yàn)的測(cè)試方式,即不考慮系統(tǒng)本身提供的自動(dòng)化測(cè)試能力,所有的測(cè)試行為均在系統(tǒng)外部進(jìn)行。比較典型的自動(dòng)化黑盒測(cè)試方案是:通過(guò)手機(jī)操作系統(tǒng)對(duì)外提供的接口向手機(jī)發(fā)送觸屏、按鍵等指令控制手機(jī)執(zhí)行各種操作,同時(shí)將特定操作步驟執(zhí)行后的手機(jī)當(dāng)前屏幕顯示做截圖,再將截圖數(shù)據(jù)通過(guò)圖像對(duì)比或OCR的方式進(jìn)行結(jié)果校驗(yàn)。
黑盒測(cè)試方式多被手機(jī)廠(chǎng)商或獨(dú)立的手機(jī)自動(dòng)化測(cè)試工具提供商所采用。像諾基亞在S40平臺(tái)上使用的Austere C、在S60平臺(tái)上使用的ART2、摩托羅拉在非智能機(jī)平臺(tái)上使用的FlexAuto、索愛(ài)在多個(gè)產(chǎn)品平臺(tái)上使用的BRAT、獨(dú)立軟件開(kāi)發(fā)商BSQUARE公司的CountDown均屬于黑盒自動(dòng)化測(cè)試系統(tǒng)。
圖3 BSQUARE公司的CountDown
黑盒測(cè)試方式不受操作系統(tǒng)內(nèi)部特性的限制(如可以避免跨進(jìn)程操作的限制),對(duì)手機(jī)操作系統(tǒng)本身是否具備高級(jí)的自動(dòng)化測(cè)試能力也沒(méi)有很高的要求;測(cè)試腳本可以采用描述性語(yǔ)言,而且可以提供簡(jiǎn)單易用的圖形化操作界面,降低了使用門(mén)檻,有利于自動(dòng)化測(cè)試在測(cè)試團(tuán)隊(duì)中的大范圍推廣。但由于使用圖像對(duì)比或OCR的方式做結(jié)果校驗(yàn),測(cè)試腳本受UI變動(dòng)的影響較大,腳本維護(hù)成本會(huì)比較高;在執(zhí)行效率、不同規(guī)格的手機(jī)適配便利性方面也不如白盒測(cè)試方式。
由于白盒測(cè)試和黑盒測(cè)試各有利弊,一般來(lái)說(shuō),在實(shí)際測(cè)試項(xiàng)目中,兩種測(cè)試方式會(huì)配合使用、各取所長(zhǎng)。
OPhone的自動(dòng)化測(cè)試
OPhone走的是Android+ 路線(xiàn),自然繼承了Android在自動(dòng)化測(cè)試方面的能力。目前OPhone在白盒自動(dòng)化測(cè)試方面使用的也是JUnit+Instrumentation框架,對(duì)上述兩種白盒測(cè)試類(lèi)型都能很好的支持。黑盒自動(dòng)化測(cè)試方面,OPhone目前有兩套自己的黑盒測(cè)試系統(tǒng)A-Tool和OSTT,分別用于平臺(tái)測(cè)試的各環(huán)節(jié)(如功能測(cè)試、壓力測(cè)試、交互測(cè)試等)和OPhone專(zhuān)項(xiàng)測(cè)試中的MTBF(平均無(wú)故障時(shí)間)測(cè)試?;趦商诇y(cè)試框架共開(kāi)發(fā)出近萬(wàn)個(gè)測(cè)試腳本,覆蓋了大多數(shù)應(yīng)用層模塊和部分底層模塊?;谝陨峡蚣荛_(kāi)發(fā)的分布式測(cè)試系統(tǒng)和多框架集成測(cè)試系統(tǒng)已經(jīng)投入使用或即將完成研發(fā)。同時(shí)OPhone還具有自行開(kāi)發(fā)或引進(jìn)的各類(lèi)自動(dòng)化測(cè)試工具24款,類(lèi)型涵蓋了功能測(cè)試工具、壓力測(cè)試工具、性能測(cè)試工具、MTBF穩(wěn)定性測(cè)試工具、測(cè)試輔助工具和系統(tǒng)監(jiān)控工具。
通過(guò)構(gòu)建自動(dòng)化測(cè)試框架、開(kāi)發(fā)自動(dòng)化測(cè)試腳本、構(gòu)建自動(dòng)化測(cè)試系統(tǒng)和開(kāi)發(fā)自動(dòng)化測(cè)試工具,OPhone已經(jīng)初步形成了較為完善的自動(dòng)化測(cè)試體系。自動(dòng)化測(cè)試已經(jīng)應(yīng)用在OPhone平臺(tái)開(kāi)發(fā)流程中的各個(gè)環(huán)節(jié),例如每日構(gòu)建出來(lái)后自動(dòng)執(zhí)行版本檢查,對(duì)各軟件模塊進(jìn)行單元測(cè)試,對(duì)系統(tǒng)進(jìn)行自動(dòng)化功能測(cè)試和自動(dòng)化系統(tǒng)測(cè)試,產(chǎn)品上市前還有自動(dòng)化的MTBF測(cè)試。
由于手機(jī)產(chǎn)品與用戶(hù)有密切的交互,很多功能需要以測(cè)試人員的主觀感受作為檢驗(yàn)結(jié)果的依據(jù),所以人工測(cè)試仍會(huì)在手機(jī)測(cè)試工作中占主導(dǎo)地位。但隨著自動(dòng)化測(cè)試技術(shù)的發(fā)展,會(huì)有越來(lái)越多的人工測(cè)試可以被自動(dòng)化測(cè)試所替代,也會(huì)有越來(lái)越多的人工無(wú)法完成的測(cè)試任務(wù)被自動(dòng)化測(cè)試所實(shí)現(xiàn)。如何更好的實(shí)施自動(dòng)化測(cè)試,仍將會(huì)是業(yè)內(nèi)關(guān)注的熱點(diǎn)。OPhone團(tuán)隊(duì)也將繼續(xù)在此方面進(jìn)行有益的探索和實(shí)踐,以此提升OPhone測(cè)試水平,更好的保障OPhone產(chǎn)品的質(zhì)量。
評(píng)論