在龙卷风中“超时”请求的正确方法

Question

我设法编写了一个相当愚蠢的bug，它会使我的一个请求处理程序运行一个非常慢的DB查询。

有趣的是，我注意到，即使在围攻完成很久之后，龙卷风仍然在翻腾请求（有时是90年代以后）。（评论-->我不是100%确定围攻的工作原理，但我相当肯定它关闭了连接..）

我通读了代码，似乎什么也找不到。尽管我的请求处理程序在上面的bug中异步运行，但挂起的请求数量堆积到了一个降低应用程序速度的水平，关闭连接会更好。

Answer 1

当客户端删除连接时，Tornado不会自动关闭请求处理程序。但是，您可以重写_connection_close上的，以便在客户端掉线时发出警报，这将允许您取消端上的连接。可以使用上下文管理器（或装饰器）来设置处理请求的超时；使用Tornado.ioloop.ioloop.add_timeout调度某个方法，该方法将请求超时到Timeout之后运行，作为上下文管理器__enter__的一部分，然后在上下文管理器的__exit__块中取消该回调。这里有一个例子演示了这两种观点：

import time
import contextlib

from tornado.ioloop import IOLoop
import tornado.web
from tornado import gen

@gen.coroutine
def async_sleep(timeout):
    yield gen.Task(IOLoop.instance().add_timeout, time.time() + timeout)

@contextlib.contextmanager
def auto_timeout(self, timeout=2): # Seconds
    handle = IOLoop.instance().add_timeout(time.time() + timeout, self.timed_out)
    try:
        yield handle
    except Exception as e:
        print("Caught %s" % e)
    finally:
        IOLoop.instance().remove_timeout(handle)
        if not self._timed_out:
            self.finish()
        else:
            raise Exception("Request timed out") # Don't continue on passed this point

class TimeoutableHandler(tornado.web.RequestHandler):
    def initialize(self):
        self._timed_out = False

    def timed_out(self):
        self._timed_out = True
        self.write("Request timed out!\n")
        self.finish()  # Connection to client closes here.
        # You might want to do other clean up here.

class MainHandler(TimeoutableHandler):

    @gen.coroutine
    def get(self):
        with auto_timeout(self): # We'll timeout after 2 seconds spent in this block.
            self.sleeper = async_sleep(5)
            yield self.sleeper
        print("writing")  # get will abort before we reach here if we timed out.
        self.write("hey\n")

    def on_connection_close(self):
        # This isn't the greatest way to cancel a future, since it will not actually
        # stop the work being done asynchronously. You'll need to cancel that some
        # other way. Should be pretty straightforward with a DB connection (close
        # the cursor/connection, maybe?)
        self.sleeper.set_exception(Exception("cancelled"))


application = tornado.web.Application([
    (r"/test", MainHandler),
])
application.listen(8888)
IOLoop.instance().start()