dtype影响np.prod()结果

来源:3-8 Numpy中的聚合运算

Fastpengmi

2019-11-07

bobo老师你好,一开始我用相同的代码,发现np.prod(X)运算结果总是和你视频教程不一样。我的电脑上当创建一个数组,不加dtype参数的时候,默认是dtype=int32。后来创建时就改了,结果np.prod(X)结果和你一样,请问一下为什么dtype类型会对元素相乘结果影响这么大,其他的运算就没有呢?
图片描述
图片描述

写回答

1回答

liuyubobobo

2019-11-07

因为 16 的阶乘的结果超过了 32 位整型限制,必须使用 64 位表示:)


继续加油!:)

0
1
Fastpengmi
好的, 谢谢老师!
2019-11-07
共1条回复

Python3入门机器学习 经典算法与应用  

Python3+sklearn,兼顾原理、算法底层实现和框架使用。

5839 学习 · 2437 问题

查看课程