我有一个非常简单的python例程,其中涉及循环遍历大约20,000个纬度,经度坐标的列表,并计算每个点到参考点的距离。
def compute_nearest_points( lat, lon, nPoints=5 ):
"""Find the nearest N points, given the input coordinates."""
points = session.query(PointIndex).all()
oldNearest = []
newNearest = []
for n in xrange(nPoints):
oldNearest.append(PointDistance(None,None,None,99999.0,99999.0))
newNearest.append(obj2)
#This is almost certainly an inappropriate use of deepcopy
# but how SHOULD I be doing this?!?!
for point in points:
distance = compute_spherical_law_of_cosines( lat, lon, point.avg_lat, point.avg_lon )
k = 0
for p in oldNearest:
if distance < p.distance:
newNearest[k] = PointDistance(
point.point, point.kana, point.english, point.avg_lat, point.avg_lon, distance=distance
)
break
else:
newNearest[k] = deepcopy(oldNearest[k])
k += 1
for j in range(k,nPoints-1):
newNearest[j+1] = deepcopy(oldNearest[j])
oldNearest = deepcopy(newNearest)
#We're done, now print the result
for point in oldNearest:
print point.station, point.english, point.distance
return
我最初使用完全相同的方法在C中编写了此代码,并且在那儿工作得很好,并且对于nPoints <=
100基本上是瞬时的。所以我决定将其移植到python,因为我想使用SqlAlchemy来做其他事情。
我首先移植了它,但没有现在可以使用该方法的deepcopy语句,这导致结果“奇数”或部分不正确,因为某些要点只是被复制为引用(我猜?我想吗?)-但是它仍然几乎与C版本一样快。
现在添加了deepcopy调用后,该例程可以正确执行其工作,但是却造成了极大的性能损失,并且现在需要几秒钟来完成相同的工作。
这似乎是一项很普通的工作,但是我显然不是以pythonic的方式来做。我应该如何做才能使我仍然获得正确的结果,而不必到处都包含Deepcopy?
编辑:
我已经找到了一个更简单,更快速的解决方案,
def compute_nearest_points2( lat, lon, nPoints=5 ):
"""Find the nearest N points, given the input coordinates."""
points = session.query(PointIndex).all()
nearest = []
for point in points:
distance = compute_spherical_law_of_cosines( lat, lon, point.avg_lat, point.avg_lon )
nearest.append(
PointDistance(
point.point, point.kana, point.english, point.avg_lat, point.avg_lon, distance=distance
)
)
nearest_points = sorted(nearest, key=lambda point: point.distance)[:nPoints]
for item in nearest_points:
print item.point, item.english, item.distance
return
因此,基本上,我只是复制输入内容并附加一个新值-
距参考点的距离。然后,我仅将“已排序”应用于结果列表,并指定排序键应为PointDistance对象的distance属性。
尽管我承认我不太了解为什么,但这比使用Deepcopy快得多。我想这取决于有效的C实现python的“排序”吗?
好的,首先要做最简单的事情:
deepcopy
通常,它很慢,因为它必须进行大量内部记账来复制病理性案例,例如以理智的方式包含其自身的对象。见,例如,该页面,或者看看的源代码deepcopy
中copy.py
是在你的Python路径的某处。
sorted
速度快,因为它是用C实现的。比Python中的同类排序要快得多。
现在,正如您在评论中所要求的那样,有关Python的引用计数行为还有更多内容。在Python中,变量是引用。当您说时a=1
,请考虑它具有1
作为一个对象存在的对象,它a
只是附加到它的标签。在其他一些语言(例如C)中,变量是容器(而不是标签),执行此操作时a=1
,实际上是将1放入a
。这不适用于Python,变量是引用。这可能带来一些有趣的结果,您可能还偶然发现:
>>> a = [] # construct a new list, attach a tag named "a" to it
>>> b = a # attach a tag named "b" to the object which is tagged by "a"
>>> a.append(1) # append 1 to the list tagged by "a"
>>> print b # print the list tagged by "b"
[1]
之所以会出现这种现象,是因为列表是 可变 对象:您可以在创建列表后对其进行修改,并且在通过引用该列表的任何变量访问列表时都可以看到该修改。列表的
不可变 等价为元组:
>>> a = () # construct a new tuple, attach a tag named "a" to it
>>> b = a # now "b" refers to the same empty tuple as "a"
>>> a += (1, 2) # appending some elements to the tuple
>>> print b
()
在这里,a += (1, 2)
创建了一个 新的 从现有的元组的元组由简称a
,加上又是元组(1, 2)
是在即时构建,并a
调整为指向新的元组,而当然b
还是旧指元组。简单的数字加法也会发生相同的情况,例如a = a+2
:在这种情况下,最初由a
所指向的数字不会以任何方式发生突变,Python会“构造”一个新数字并a
指向新数字。简而言之,数字,字符串和元组是不可变的;列表,字典和集合是可变的。用户定义的类通常是可变的,除非您明确确保内部状态不能突变。还有frozenset
,这是一个不变的集合。当然还有其他很多:)
我不知道为什么您的原始代码不起作用,但是您可能遇到了与我在列表中显示的代码段有关的行为,因为PointDistance
默认情况下您的类也是可变的。一个替代方法是namedtuple
from的类collections
,该类构造一个类似元组的对象,其字段也可以通过名称进行访问。例如,您可以这样做:
from collections import namedtuple
PointDistance = namedtuple("PointDistance", "point distance")
这会PointDistance
为您创建一个具有两个命名字段的类:point
和distance
。在主for
循环中,您可以适当地分配它们。由于point
字段指向的点对象在for
循环过程中不会被修改,distance
而是一个数字(根据定义,它是不可变的),因此您应该放心地这样做。但是是的,总的来说,由于使用了C语言,因此使用起来似乎sorted
更快sorted
。您可能还很幸运使用该heapq
模块,该模块实现了由普通Python列表支持的堆数据结构,因此可以k
轻松地找到顶部元素无需对其他排序。但是,由于heapq
也是在Python中实现的,因此很有可能sorted
除非您有很多要点,否则效果会更好。
最后,我想补充一点,就是deepcopy
到目前为止我从来没有用过,所以我想在大多数情况下有避免这种情况的方法。
null本身不是对象,也不是Objcet的实例 问题: null代表不确定的对象, 是一个很模糊的概念, 容易产生二义性 Map.get(key)若返回value值为null,其代表的含义可能是该键指向的value值是null,亦或者该键在map中并不存在 优点: 从内存消耗和效率方面,null更加廉价 优化: Optional com.google.common.base.Optional Op
让我们看一下使用两种不同的方式去计算单词的个数,第一种方式使用 reduceByKey 另外一种方式使用 groupByKey: val words = Array("one", "two", "two", "three", "three", "three") val wordPairsRDD = sc.parallelize(words).map(word => (word, 1)) val
问题内容: 这看起来很丑。可选选项的优点在这里完全消失了。我读到应该使用或代替。但是,如果我更换每个吸气剂,真的有好处吗? 与 您知道这里的一些常见或最佳做法吗? 问题答案: 您可以使用 关键是仅在可选函数不为空时才评估映射函数,否则结果将保留为空。如果可选为空,将返回。
问题内容: 我今天开始编程,Python遇到了这个问题。这真是愚蠢,但我不知道该怎么做。当我使用print命令时,它将打印我想要的任何内容,然后转到另一行。例如: 应该返回: 这应该在同一行 但返回: 这应该 在同一行 更确切地说,我试图创建一个程序来告诉我数字是否为2 但是它不会将最后一个识别为输入的值,而是精确打印:“(x)”(带括号的字母)。为了使其工作,我必须写: 如果例如我输入给出: 不
问题内容: 建议在HTML页面中使用表格(现在已经有了CSS)? 表格有什么用途?表具有哪些CSS所没有的功能? 问题答案: 一点都不。但是将表格用于表格数据。只是不要将它们用于一般布局。 但是,如果您显示表格数据(例如结果或什至是表格),请继续使用表格!
问题内容: 我已经在多个地方多次看到过这种情况,但是从未找到令人满意的解释来说明为什么会这样。 因此,希望这里会介绍一个。为什么我们(至少通常)不使用和? 编辑:我看到人们以为这个问题与Web服务器有关,但事实并非如此。我可以理解为什么传递给未经处理的字符串可能很糟糕。在非Web应用程序中不好吗? 问题答案: 通常有更清晰,更直接的方法来获得相同的效果。如果构建复杂的字符串并将其传递给,则代码将难