运行Selenium测试使Maven构建失败

Question

我们有一组UI测试每晚运行，有时一些测试由于网络故障而失败。为了避免假阴性测试结果，我使用了IRetryAnalyzer，它可以重新运行失败的测试多达3次。

当我从Eclispe右键单击套件运行测试时，它工作得非常好。xml—如果测试最初失败，但重试时通过，则第一个结果不算作失败。

但是，当作为Maven构建的一部分运行相同的测试时，如果任何测试失败，即使在重试时成功通过，构建也会失败。

例如，运行一个包含5个测试的套件，其中一个在第一次失败但在第二次尝试时通过，当作为TestNG套件运行时，会给我这个输出：

总测试运行：5，失败：0，跳过：0

但是有了Maven，结果就不同了：

测试运行：6，失败：1，错误：0，跳过：0

有没有办法让Maven不将重新运行测试视为失败？

Answer 1

我在这个线程中找到了部分解决方案

我仍然无法从所有测试计数中删除失败和重试的测试结果，但至少如果测试在第二次或第三次执行时通过，我的构建不会失败。

Answer 2

终于明白了。我使用以下代码：

列表生成器：

public class MyTestListenerAdapter extends TestListenerAdapter {
    @Override
    public void onTestFailure(ITestResult result) {
        if (result.getMethod().getRetryAnalyzer() != null) {
            MyRetryAnalyzer retryAnalyzer = (MyRetryAnalyzer)result.getMethod().getRetryAnalyzer();

            if(retryAnalyzer.isRetryAvailable()) {
                result.setStatus(ITestResult.SKIP);
            } else {
                result.setStatus(ITestResult.FAILURE);
            }
            Reporter.setCurrentTestResult(result);
        }
    }

   @Overrride
   public void onFinish(ITestContext context) {
     Iterator<ITestResult> failedTestCases =context.getFailedTests().getAllResults().iterator();
    while (failedTestCases.hasNext()) {
        System.out.println("failedTestCases");
        ITestResult failedTestCase = failedTestCases.next();
        ITestNGMethod method = failedTestCase.getMethod();
        if (context.getFailedTests().getResults(method).size() > 1) {
            System.out.println("failed test case remove as dup:" + failedTestCase.getTestClass().toString());
            failedTestCases.remove();
        } else {

            if (context.getPassedTests().getResults(method).size() > 0) {
                System.out.println("failed test case remove as pass retry:" + failedTestCase.getTestClass().toString());
                failedTestCases.remove();
            }
        }
    }
   }
}

RetryAnalizer：

public class MyRetryAnalyzer implements IRetryAnalyzer {
    private static int MAX_RETRY_COUNT = 3;

    AtomicInteger count = new AtomicInteger(MAX_RETRY_COUNT);

    public boolean isRetryAvailable() {
        return (count.intValue() > 0);
    }

    @Override
    public boolean retry(ITestResult result) {
        boolean retry = false;
        if (isRetryAvailable()) {
            System.out.println("Going to retry test case: " + result.getMethod() + ", " + (MAX_RETRY_COUNT - count.intValue() + 1) + " out of " + MAX_RETRY_COUNT);
            retry = true;
            count.decrementAndGet();
        }
        return retry;
    }
}

POM. xml-

这是您应该配置“覆盖”surefire侦听器的地方，它有自己的计数器。

<plugin>
  <groupId>org.apache.maven.plugins</groupId>
  <artifactId>maven-surefire-plugin</artifactId>
  <version>2.18.1</version>
  <configuration>
    <suiteXmlFiles><suiteXmlFile>${basedir}/testng.xml</suiteXmlFile></suiteXmlFiles>
 <properties> 
   <property>
    <name>listener</name>
    <value>Utils.MyTestListenerAdapter,Utils.MyRetryAnalizer</value>
   </property>
 </properties>