试图绘制一个简单的函数 - python答案

【问题标题】：Trying to plot a simple function - python试图绘制一个简单的函数 - python
【发布时间】：2016-12-11 02:42:20
【问题描述】：

我实现了一个简单的线性回归，我想通过拟合非线性模型来尝试一下

具体来说，我正在尝试为函数 y = x^3 + 5 拟合模型

这是我的代码

import numpy as np
import numpy.matlib
import matplotlib.pyplot as plt

def predict(X,W):
    return np.dot(X,W)

def gradient(X, Y, W, regTerm=0):
    return (-np.dot(X.T, Y) + np.dot(np.dot(X.T,X),W))/(m*k) + regTerm * W /(n*k)

def cost(X, Y, W, regTerm=0):
    m, k = Y.shape
    n, k = W.shape
    Yhat = predict(X, W)
    return np.trace(np.dot(Y-Yhat,(Y-Yhat).T))/(2*m*k) + regTerm * np.trace(np.dot(W,W.T)) / (2*n*k)

def Rsquared(X, Y, W):
    m, k = Y.shape
    SSres = cost(X, Y, W)
    Ybar = np.mean(Y,axis=0)
    Ybar = np.matlib.repmat(Ybar, m, 1)
    SStot = np.trace(np.dot(Y-Ybar,(Y-Ybar).T))

    return 1-SSres/SStot

m = 10
n = 200
k = 1

trX = np.random.rand(m, n)
trX[:, 0] = 1

for i in range(2, n):
    trX[:, i] = trX[:, 1] ** i

trY = trX[:, 1] ** 3 + 5
trY = np.reshape(trY, (m, k))

W = np.random.rand(n, k)

numIter = 10000
learningRate = 0.5

for i in range(0, numIter):
    W = W - learningRate * gradient(trX, trY, W)

domain = np.linspace(0,1,100000)
powerDomain = np.copy(domain)
m = powerDomain.shape[0]
powerDomain = np.reshape(powerDomain, (m, 1))
powerDomain = np.matlib.repmat(powerDomain, 1, n)

for i in range(1, n):
    powerDomain[:, i] = powerDomain[:, 0] ** i

print(Rsquared(trX, trY, W))
plt.plot(trX[:, 1],trY,'o', domain, predict(powerDomain, W),'r')
plt.show()

我得到的 R^2 非常接近 1，这意味着我发现非常适合训练数据，但它没有显示在图表上。当我绘制数据时，它通常看起来像这样：

看起来好像我对数据的拟合不足，但在如此复杂的假设下，有 200 个特征（意味着我允许最多 x^200 的多项式）和只有 10 个训练示例，我应该非常清楚地过度拟合数据，所以我希望红线穿过所有蓝点并在它们之间疯狂。

这不是我得到的，这让我感到困惑。怎么了？

【问题讨论】：

首先，解决这个问题：trX = np.random.rand(m) ** np.arange(n)
和powerDomain = domain ** np.arange(n)

标签： python numpy plot machine-learning linear-regression

【解决方案1】：

你忘记设置powerDomain[:,0]=1，这就是你的情节在0 出错的原因。是的，你太适合了：看看你的情节在你离开训练领域后的速度有多快。

【讨论】：