当前位置: 首页 > 面试题库 >

在Google App Engine上处理并发请求

夏侯瑞
2023-03-14
问题内容

我正在几个平台上尝试并发请求处理。

实验的目的是对某些选定技术的能力范围进行 广泛的 测量。

我成立了一个Linux VM我的机器上有一个基本的围棋http服务器(香草http.HandleFunc中的http默认包)。然后,服务器将计算
fasta
算法的修改版本,该版本将线程和进程限制为1,并返回结果。N设置为100000。该算法运行大约2秒钟。我在Google App Engine项目上使用了
相同的 算法和逻辑

该算法使用相同的代码编写,只是完成了处理程序设置,init()而不是main()按照GAE要求进行。

在另一端,Android客户端产生了500个线程,每个线程并行GETfasta 计算服务器发出请求,请求超时为5000毫秒。

我期望GAE应用程序能够扩展并响应每个请求,而本地Go服务器在500个请求中失败,但是结果却相反:本地服务器正确地在超时范围内答复了每个请求,而GAE应用程序却是只能处理600个请求中的160个。其余请求超时。

我检查了Cloud Console,并确认产生了18个GAE实例,但绝大多数请求仍然失败。

我以为他们中的大多数人都因为每个GAE实例的启动时间而失败了,所以我之后立即重复了实验,但结果却是相同的:大多数请求都超时了。

我期望GAE能够扩展以适应所有请求,并相信如果单个本地VM可以成功回复500个并发请求,GAE也会这样做,但是事实并非如此。

GAE控制台未显示任何错误,并正确报告了传入请求的数量。

这可能是什么原因? 此外,如果单个实例仅可以通过goroutine来处理我计算机上的所有传入请求,那么GAE为何需要这么大扩展?


问题答案:

感谢大家的帮助。我对此主题的回答已经提出了许多有趣的观点和见解。

Cloud Console没有报告错误的事实使我相信瓶颈是在实际请求处理之后发生的。

我发现了结果不如预期的原因:带宽。

每个响应的有效负载大约为1MB,因此响应来自同一客户端的500个同时连接会阻塞线路,从而导致超时。向带宽大得多的VM请求时,显然没有发生这种情况。

现在,GAE缩放比例符合我的预期:它可以成功缩放以适应每个传入的请求。



 类似资料:
  • 并发请求处理 我创建了一个服务器,并使用s.listenandserve()来处理请求。据我所知,这些请求是同时送达的。我使用一个简单的处理程序来检查它: 我看到,如果我发送了几个请求,我将看到所有的“1”出现,只有在一秒钟后所有的“2”出现。但是如果删除Hibernate行,我会看到程序在完成前一个请求之前从不启动请求(输出为1 2 1 2 1 2...)。所以我不明白,如果它们是并发的还是不是

  • 问题内容: 我对Go如何处理Google App Engine上的并发请求感到困惑。所以我希望有人可以提供一些清晰度。 这是我收集的事实: 1.Goroutine被多路复用到多个OS线程上,因此,如果一个应阻塞,例如在等待I / O时,其他将继续运行。 [[App Engine]的并发限制为10个[通过每个运行时的并发线程限制来实施]。 如果Go在App Engine上是单线程的,则第3点没有意义

  • 我正在使用Spring Boot构建一个RESTful web服务。我的IDE是Eclipse Oxygen。 这里是我的控制器代码: 我的控制台输出是: 控制台输出显示每5秒调用一次控制器。但我每隔两秒就发送一次请求。 是否可以接受来自同一会话的并发多个请求? 谢谢!

  • 问题内容: 我有一个关于单例bean如何详细处理并发请求的问题。 我想要有关单例bean如何处理并发请求以及系统处理器如何看到这些请求的完整详细信息。 我已经研究了有关在线处理系统处理器中并发请求的问题。他们说处理器本身有一个调度程序,调度程序将决定处理哪个请求。 好的。如果假设我有多个核心处理器,那么调度程序如何处理并发请求? 谁能向我解释有关单例bean如何为JVM和系统中的并发请求提供服务的

  • 问题内容: 假设我有某种游戏。我有一个buyItem函数,如下所示: 如果我对该路由进行垃圾邮件处理,直到扣除用户余额(第二次查询),则用户余额仍为正。 我尝试过的 问题是将在第一〜5项要求。因此,这也不起作用。 我们如何处理这种情况?如果重要的话,我正在使用Sails.JS框架。 问题答案: 通过该方法,Sails 1.0现在具有完整的事务支持。例: 更新资料 正如一些评论者所指出的,启用连接池

  • 有一个场景,1000个请求要求redis获取名为goods_stock的密钥,同时在redis中设置该密钥的vaule等于goods_stocks-1,redis服务器如何处理这些请求?它是否处理默认队列,就像每个请求都是块请求一样?