用Alpha-Beta修剪迭代加深Negamax

Question

我的程序中有一个有效的negamax算法。然而，我需要程序在kMaxTimePerMove时间内找到最佳移动。我做了一些研究，似乎用我的negamax算法进行迭代深化是最好的方法。现在，我启动搜索的函数如下所示：

// this is a global in the same scope as the alpha-beta functions, so they can check the elapsed time
clock_t tStart;

int IterativeDeepening(Board current_state)
{
    bool overtime = false;
    int depth = 0;
    tStart = clock();

    MoveHolder best_move(-1, kWorstEvaluation);

    while ((static_cast<double> (clock() - tStart)/CLOCKS_PER_SEC) < kMaxTimePerMove)
    {
        MoveHolder temp_move = AlphaBetaRoot(kWorstEvaluation, -best_move.evaluation_,++depth, current_state, overtime);          
        if (!overtime)
            best_move = temp_move;
    }

    return best_move.column_;
}

我想我也应该重新排序之前的最佳移动到儿童列表的前面，但是，我在等待实现，直到我得到基本版本的工作。实际的阿尔法-贝塔函数是这样的:

MoveHolder AlphaBetaRoot(int alpha, int beta, int remaining_depth, Board current_state, bool &overtime)
{
    MoveHolder best(-1, -1);
    if (overtime)
        return MoveHolder(0,0);

    std::vector<Board> current_children;
    current_state.GetBoardChildren(current_children);

    for (auto i : current_children)
    {
        best.evaluation_ = -AlphaBeta(-beta, -alpha, remaining_depth - 1, i, overtime);
        if ((static_cast<double> (clock() - tStart)/CLOCKS_PER_SEC) > kMaxTimePerMove)
        {
            overtime = true;
            return MoveHolder(0,0);
         }
        if (best.evaluation_ >= beta)
            return best;
        if (best.evaluation_ > alpha)
        {
            alpha = best.evaluation_;
            best.column_ = i.GetLastMoveColumn();
        }
    }
    return best;
}

int AlphaBeta(int alpha, int beta, int remaining_depth, Board2 current_state, bool &overtime)
{
    if (overtime)
        return 0;
    if ((static_cast<double> (clock() - tStart)/CLOCKS_PER_SEC) > kMaxTimePerMove)
    {
        overtime = true;
        return 0;
    }

    if (remaining_depth == 0 || current_state.GetCurrentResult() != kNoResult)
    {
        return current_state.GetToMove() * current_state.GetCurrentEvaluation();
    }


    std::vector<Board> current_children;
    current_state.GetBoardChildren(current_children);
    for (auto i : current_children)
    {
        int score = -AlphaBeta(-beta, -alpha, remaining_depth - 1, i, overtime);
        if (score >= beta)
        {
            return beta;
        }
        if (score > alpha)
        {
            alpha = score;
        }
    }
    return alpha;
}

当我尝试调试时，一切似乎都在按预期工作。然而，当我将迭代深化版本与常规的alphabeta实现进行比较时，它总是会失败。有时，它似乎会“卡住”，并返回一个可怕的动作。

举个例子，如果这个程序被“强迫”在下一个回合移动，否则对手会赢，它不会阻止胜利。在那一步，它报告说它正在搜索到38的深度。我发现这个算法极难调试，因为如果我破坏了执行，它就破坏了时间。

我不确定我是否错误地实现了算法，或者只是这里有一个棘手的错误。如果有人能给我指出正确的方向，我将不胜感激。

Answer 1

您使用 -best_move.evaluation_ 作为搜索的 beta 值，其中best_move是与上一个深度相比的最佳移动。这是不正确的：假设一个移动在深度=2时看起来不错，但在更大的深度下结果很糟糕。这种方法将继续认为它很好，并导致在其他移动中不应该发生的 beta 截止。

您应该搜索每个迭代（-infinity，infinity）来解决此问题。您还可以使用抽吸窗口来限制 α-β 范围。

请注意，由于您不使用上一个迭代来改进下一个迭代的移动顺序，因此迭代深化将导致结果稍差。理想情况下，您希望移动排序从换位表和/或上一次迭代的主变体中选择最佳移动。