自动化测试用例失败重跑有助于提高自动化用例的稳定性,那我们来看一下,python和java生态里都有哪些具体做法?除了先天优势,软件测试本身的产品属性也极为高端,在市场竞争中才能保持不败。
怎么做
如果是在python生态里,用pytest做测试驱动,那么可以通过pytest的插件pytest-rerunfailures来实现失败用例重跑,具体的使用方式有两种,一种是通过命令行指定pytest --reruns 2 --reruns-delay 1,reruns表示重复运行次数,reruns-delay 表示重复运行是的延迟时间。另一种方式是通过@pytestmarkflaky(reruns=2, reruns_delay=1),这种方式一般运用,不想全局所有的测试用例都重跑,只是特定的测试用例需要跑,那就在特定的测试方法上使用这个标记。
如果是在java生态里,用junit做测试驱动,junit5提供了注解@repeattest(2),可以试下测试类或者测试方法的重复运行,也可以自定义,通过实现个testrule接口,来控制测试用例的运行。 public class mytestclass {
@rule
public repeatrule repeatrule = new repeatrule();
@test
@repeat(10)
public void testmycode() {
your test code goes here
}
}
import static javalangannotationelementtypeannotation_type;
import static javalangannotationelementtypemethod;
import javalangannotationretention;
import javalangannotationretentionpolicy;
import javalangannotationtarget;
@retention( retentionpolicyruntime )
@target({ method, annotation_type })
public @interface repeat {
int value() default 1;
}
import orgjunitrulestestrule;
import orgjunitrunnerdescription;
import orgjunitrunnersmodelstatement;
public class repeatrule implements testrule {
private static class repeatstatement extends statement {
private final statement statement;
private final int repeat;
public repeatstatement(statement statement, int repeat) {
thisstatement = statement;
thisrepeat = repeat;
}
@override
public void evaluate() throws throwable {
for (int i = 0; i < repeat; i++) {
statementevaluate();
}
}
}
@override
public statement apply(statement statement, description description) {
statement result = statement;
repeat repeat = descriptiongetannotation(repeatclass);
if (repeat != null) {
int times = repeatvalue();
result = new repeatstatement(statement, times);
}
return result;
}
}
还有就是如果使用到了maven可以添加一个rerunfailingtestscount参数,不过这个是控制所有的用例了。
为什么要让失败用例重跑呢
因为自动化一般都会在测试环境或者其他非线上的环境,由于环境的不稳定可能会导致测试用例莫名其妙的失败,是用例的稳定性大打折扣。这个时候加入失败重跑机制,能够在一定范围内提高测试用例的稳定性,做出更多的产出。
什么样的自动化用例要进行失败重跑
接口自动化测试用以建议可以加入这种失败重跑,而对于ui接口接口自动化,失败重跑的话,觉得意义不大,因为往往当用例的失败的时候,要么是由于界面元素没加载出来,要么是用例的逻辑有问题,要么是意外的弹窗影响,这个时候应该让错误尽早的抛出来,好尽快的修复,而不是在哪儿一个劲的重试,没啥用。ui自动化应该做好显式和隐式等待。
什么样的失败用例应该重跑
在测试框架中,最好能区分出什么样的异常时服务异常,什么是测试框架本身的异常,对于服务异常可以适当重试,对于框架异常不进行重跑,直接抛出。断言失败当然更不需要重跑。所以在控制测试用例执行的时候,不要一股脑儿的全都重跑,有选择性的,既要保证稳定性,还要保证效率,让自动化发挥价值。
总结
测试要做到有的放矢,在合适的时候做合适的事情,自动化测试的价值就是因为它能快速的检查系统,如果因为重试导致运行的时间成倍增加,是没有任何意义的,还不如抛出错了,尽快去解决。而且自动化测试用例的运行顺序也要控制,处于业务前方的接口尽量先跑,处于业务后方的接口尽量后跑。比如登陆接口和下单接口,登陆接口属于业务靠前的,下单是靠后的,一般在测试下单接口的时候都要初始化登陆状态,这个时候会调用登陆接口,在测试用例批量执行的时候,可以先让登陆接口测试用例先跑,如果这个接口有问题,那么其他需要登陆接口配合的用例全都会失败,那这样后面的用例就不用跑了,这样会节省很多的时间。