NumPy vectorize 导致数值“舍入”为最近整数：原因及解决方案

本文探讨了在使用 NumPy 的 vectorize 函数时，由于数据类型导致计算结果意外变为 0 或 1 的问题。通过分析问题代码，解释了整数溢出的原因，并提供了两种解决方案：将整数常量转换为浮点数，以及使用 NumPy 提供的向量化函数替代 np.vectorize。

在使用 NumPy 进行数值计算时，有时会遇到一些意想不到的结果。一个常见的问题是，np.vectorize 函数似乎会将浮点数“舍入”为最近的整数，导致计算结果要么是 0，要么是 1。 这种现象往往是由于数据类型不匹配或整数溢出造成的。下面我们将深入分析这个问题，并提供解决方案。

问题分析

原始代码中，perrMaxFunc 函数的计算依赖于 epsilon 和 pPsi 函数，而这两个函数都涉及到 2**n 的计算。当 n 较大时，2**n 的结果可能会超出 int32 数据类型的表示范围，导致整数溢出。

例如，2**np.array(32) 的结果是 0，而 2**np.array(32.0) 的结果是 4294967296.0。 这是因为在第一种情况下，np.array(32) 创建了一个 int32 类型的数组，当 2**32 的结果超出 int32 的最大值时，就会发生溢出，结果被截断为 0。

解决方案

为了避免整数溢出，可以采取以下两种方法：

1. 将整数常量转换为浮点数

最简单的解决方法是将代码中的整数常量 2 替换为浮点数 2.0。 这样，所有的计算都将以浮点数进行，避免了整数溢出的问题。

修改后的代码如下：

import numpy as np

def epsilon(n):
    return 1.6952445781450207*2.0**(-1.028148909051717*n)

def pPsi(n):
    return 1.0577183294485202*2.0**(-1.028620169094481*n)

def perrMaxFunc(n):
    res=epsilon(n)/(2.0*np.abs(1/2.0**n-pPsi(n)))
    return min([1,res])

vectorized_perr=np.vectorize(perrMaxFunc)

nmax=500;

perrMax=vectorized_perr([i for i in range(nmax)])
print(perrMax)
print(perrMaxFunc(500))

通过将 2 替换为 2.0，可以确保所有计算都以浮点数进行，从而避免整数溢出。

LobeHub

LobeChat brings you the best user experience of ChatGPT, OLLaMA, Gemini, Claude

201

查看详情

2. 使用 NumPy 提供的向量化函数

np.vectorize 函数本质上是一个循环，效率并不高。 NumPy 提供了许多内置的向量化函数，可以直接应用于数组，而无需使用 np.vectorize。

在本例中，可以使用 np.minimum 函数代替 min 函数，从而避免使用 np.vectorize。

修改后的代码如下：

import numpy as np

def epsilon(n):
    return 1.6952445781450207*2.**(-1.028148909051717*n)

def pPsi(n):
    return 1.0577183294485202*2.**(-1.028620169094481*n)

def perrMaxFunc(n):
    res = epsilon(n)/(2.*np.abs(1/2.**n-pPsi(n)))
    return np.minimum(1,res)


nmax= 500;

perrMax=perrMaxFunc(np.arange(nmax))
print(perrMax)
print(perrMaxFunc(500))

在这个修改后的代码中，np.minimum(1, res) 会对数组 res 中的每个元素，取其与 1 之间的最小值，从而实现向量化操作。同时，将 nmax 修改为 500。

注意： np.arange(nmax) 会生成一个包含 0 到 nmax-1 的 NumPy 数组，然后将其作为 perrMaxFunc 函数的输入。这样可以避免使用 np.vectorize，提高代码的效率。

总结

在使用 NumPy 进行数值计算时，需要注意数据类型和潜在的整数溢出问题。通过将整数常量转换为浮点数，或使用 NumPy 提供的向量化函数，可以有效地避免这些问题，并提高代码的效率和准确性。同时，也要注意 np.vectorize 函数的效率问题，尽量使用 NumPy 内置的向量化函数来替代。

以上就是NumPy vectorize 导致数值“舍入”为最近整数：原因及解决方案的详细内容，更多请关注php中文网其它相关文章！