我继承了一些Python代码,这些代码用于创建巨大的表(最多19列,每行5000行)。花了 九秒钟
时间在屏幕上绘制了表格。我注意到每一行都是使用以下代码添加的:
sTable = sTable + '\n' + GetRow()
sTable
字符串在哪里。
我将其更改为:
sTable += '\n' + GetRow()
我注意到桌子现在出现了 六秒 。
然后我将其更改为:
sTable += '\n%s' % GetRow()
基于这些Python性能提示(仍为6秒)。
由于调用了大约5000次,因此突出了性能问题。但是为什么会有如此大的差异呢?为什么编译器没有在第一个版本中发现问题并对其进行优化?
这+=
与使用就地与+
二进制添加无关。您没有告诉我们整个故事。您的原始版本连接了3个字符串,而不仅仅是两个:
sTable = sTable + '\n' + sRow # simplified, sRow is a function call
Python尝试提供帮助并优化字符串连接;使用strobj += otherstrobj
和时都可以使用strobj = strobj + otherstringobj
,但是当涉及两个以上的字符串时,它将无法应用此优化。
Python中的字符串是不可变的 正常 ,但如果是左手字符串对象的任何其他引用 和 它反正是反弹,那么Python欺骗和 变异的字符串
。这样可以避免每次连接时都必须创建新的字符串,并且可以大大提高速度。
这在字节码评估循环中实现。无论使用时BINARY_ADD
对两个字符串和使用时INPLACE_ADD
对两个字符串,Python的代表级联到一个特殊的辅助函数string_concatenate()
。为了能够通过更改字符串来优化串联,首先需要确保该字符串没有对其的其他引用。如果只堆栈和原始变量引用它,然后可以做到这一点,
并 在 接下来的 操作将取代原来的变量引用。
因此,如果对字符串只有2个引用,并且下一个运算符是STORE_FAST
(设置局部变量),STORE_DEREF
(设置由函数闭包引用的变量)或STORE_NAME
(设置全局变量)之一,并且受影响的变量当前引用了相同的字符串,然后清除该目标变量以将引用数减少到仅1(堆栈)。
这就是为什么您的原始代码无法完全使用此优化的原因。表达式的第一部分是sTable + '\n'
, 下一个 操作是
另一个BINARY_ADD
:
>>> import dis
>>> dis.dis(compile(r"sTable = sTable + '\n' + sRow", '<stdin>', 'exec'))
1 0 LOAD_NAME 0 (sTable)
3 LOAD_CONST 0 ('\n')
6 BINARY_ADD
7 LOAD_NAME 1 (sRow)
10 BINARY_ADD
11 STORE_NAME 0 (sTable)
14 LOAD_CONST 1 (None)
17 RETURN_VALUE
第一个BINARY_ADD
后跟一个LOAD_NAME
用于访问sRow
变量的变量,而不是存储操作。这首先BINARY_ADD
必须始终产生一个新的字符串对象,该字符串对象会随着sTable
增长而变得越来越大,并且花费越来越多的时间来创建此新的字符串对象。
您将此代码更改为:
sTable += '\n%s' % sRow
其中 去除第二级联 。现在字节码是:
>>> dis.dis(compile(r"sTable += '\n%s' % sRow", '<stdin>', 'exec'))
1 0 LOAD_NAME 0 (sTable)
3 LOAD_CONST 0 ('\n%s')
6 LOAD_NAME 1 (sRow)
9 BINARY_MODULO
10 INPLACE_ADD
11 STORE_NAME 0 (sTable)
14 LOAD_CONST 1 (None)
17 RETURN_VALUE
我们剩下的就是一家INPLACE_ADD
商店。现在sTable
可以就地更改,而不会导致更大的新字符串对象。
您将获得与以下相同的速度差:
sTable = sTable + ('\n%s' % sRow)
这里。
计时试用显示了不同之处:
>>> import random
>>> from timeit import timeit
>>> testlist = [''.join([chr(random.randint(48, 127)) for _ in range(random.randrange(10, 30))]) for _ in range(1000)]
>>> def str_threevalue_concat(lst):
... res = ''
... for elem in lst:
... res = res + '\n' + elem
...
>>> def str_twovalue_concat(lst):
... res = ''
... for elem in lst:
... res = res + ('\n%s' % elem)
...
>>> timeit('f(l)', 'from __main__ import testlist as l, str_threevalue_concat as f', number=10000)
6.196403980255127
>>> timeit('f(l)', 'from __main__ import testlist as l, str_twovalue_concat as f', number=10000)
2.3599119186401367
这个故事的寓意是,您不应该首先使用字符串连接。从其他字符串的负载中构建新字符串的正确方法是使用列表,然后使用str.join()
:
table_rows = []
for something in something_else:
table_rows += ['\n', GetRow()]
sTable = ''.join(table_rows)
这仍然更快:
>>> def str_join_concat(lst):
... res = ''.join(['\n%s' % elem for elem in lst])
...
>>> timeit('f(l)', 'from __main__ import testlist as l, str_join_concat as f', number=10000)
1.7978830337524414
但您不能仅使用'\n'.join(lst)
以下方法击败:
>>> timeit('f(l)', 'from __main__ import testlist as l, nl_join_concat as f', number=10000)
0.23735499382019043
2. 环境变量 先前讲过,exec系统调用执行新程序时会把命令行参数和环境变量表传递给main函数,它们在整个进程地址空间中的位置如下图所示。 图 30.2. 进程地址空间 和命令行参数argv类似,环境变量表也是一组字符串,如下图所示。 图 30.3. 环境变量 libc中定义的全局变量environ指向环境变量表,environ没有包含在任何头文件中,所以在使用时要用extern声明。例如:
变量绑定默认是不可变的,但加上 mut 修饰语后变量就可以改变。 fn main() { let _immutable_binding = 1; let mut mutable_binding = 1; println!("Before mutation: {}", mutable_binding); // 正确代码 mutable_binding += 1
- a - addr : rt_i2c_bus_device , rt_i2c_msg ai_addr : addrinfo ai_addrlen : addrinfo ai_canonname : addrinfo ai_family : addrinfo ai_flags : addrinfo ai_next : addrinfo ai_protocol : addrinfo ai_soc
问题内容: 我读了这个问题不可变对象,并留下了关于不可变对象,并最终场一个问题: 为什么我们需要不可变类中的实例变量为最终变量? 例如,考虑以下不可变的类: 如果在上面的代码中没有set方法,而实例变量仅在构造函数中设置,为什么要求将实例变量声明为final? 问题答案: 有没有 要求 这样做的变量。但是,当您确实明确打算永远不更改变量时,通常这样做是一种好习惯,因为这不仅可以使变量避免错别字或其
为什么第一个和第二个写工作,但不是最后一个?有没有办法我可以允许所有3个,并检测它是1,(int)1还是i传入?为什么只允许一个,而允许最后一个?第二个被允许,但不是最后一个,真的让我大吃一惊。 演示显示编译错误
以下是经典的实践中的一致性: 当线程A写入一个易失性变量,随后线程B读取相同的变量时,A在写入易失性变量之前可见的所有变量的值在读取易失性变量后变得对B可见。 我不确定我真的能理解这句话。例如,在这种情况下,所有变量的含义是什么?这是否意味着使用对使用非volatile变量也有副作用<在我看来,这句话有一些我无法理解的微妙含义<有什么帮助吗?