作者goldflower (金色小黄花)
看板Python
标题[问题] numpy broadcasting加速
时间Thu Apr 12 23:59:33 2018
首先我有两个2D矩阵
A: m x 128
B: n x 128
m, n大约10000左右
我其中有一部分运算会使用到
np.subtract(A[i, :], B) 此产生出n x 128的矩阵
而这个运算A的每个row都要做, 也就是做m次
最直观就是使用for回圈跑m次
但是因为太慢了所以想起来有个broadcasting可用
直接np.subtract(A, B[:, None])就好, 产生个3D tensor
但问题在於这个居然比for回圈还要缓慢 而且是显着慢很多
不知道这种运算有没有更快速的解法
本来猜可以用vectorize
但是查doc发现"The implementation is essentially a for loop"这句话
所以可能也没用? 我姑且试写了一下目前是error 还没搞熟这个XD
不知道有没有人知道怎麽样让这个过程变快
大绝应该就是直接开multi-process吧 希望有更好的选择@@
感谢收看
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.224.55.11
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Python/M.1523548776.A.986.html
1F：推 brahmsliu: np.apply_along_axis? 04/13 08:17
2F：推 niki25672729: 我之前使用vectorize感觉起来是平行的耶 把值印出 04/13 10:59
3F：→ niki25672729: 来并不会照原本array的顺序 原来是for loop吗 04/13 10:59
完整原文是这样：
The vectorize function is provided primarily for convenience, not for
performance. The implementation is essentially a for loop.
4F：→ niki25672729: 楼上那个应该是for loop 我试验的结果跟vectorize 04/13 11:00
5F：→ niki25672729: 效率差很多 04/13 11:00
那可能就视问题而定吧
我查stackoverflow上也有vectorize速度没改善的讨论
6F：→ ThxThx: 我记得subtraction的ufunc已经是有optimized过了！？ 04/13 12:55
7F：→ ThxThx: 可以用batch的方式丢进GPU来算 04/13 12:57
8F：→ ThxThx: 使用mp会有多次data copy的overhead我觉得不划算 04/13 13:04
了解
这种overhead加上去可能也占不到便宜
我看有篇讨论是说在大矩阵的运算上
中间运算的部分会重复去盖掉cache中的值所以反而会比较慢
然後我的for loop是用掉一次subtract後这轮的减数就不会再用到了所以就没这个问题
所以我猜是他虽然有做优化但是因为彼此盖掉cache的关系反而会降低速度
只是我猜啦... 我没测试小图会不会就可以比for loop快就是了
※ 编辑: goldflower (140.113.215.35), 04/13/2018 17:29:07