데이터 집합에 그라데이션 디센트를 구현하려고합니다. 비록 모든 것을 시도했지만, 나는 그것을 작동하게 만들 수 없었다. 그래서 테스트 케이스를 만들었습니다. 난 임의의 데이터에 내 코드를 시도하고 디버깅하려고합니다. 더 구체적으로 말하면, 나는이 벡터에 대해 0-1과 임의의 레이블 사이의 임의의 벡터를 생성하고 있습니다. 그리고 훈련 데이터를 과도하게 맞추
나는 NumPy와이 경사 하강을 구현 한 : def gradientDescent(X, y, theta, alpha, iterations):
m = len(y)
for i in range(iterations):
h = np.dot(X,theta)
loss = h-y
theta = theta - (alpha/
필자는 입력을 내 출력에 적절하게 매핑하는 훈련 된 신경망을 가지고 있습니다. 그런 다음 원하는 y 출력을 지정하고 그래디언트 방법을 사용하여 출력을 얻으려는 최적 입력 값을 결정할 수 있습니까? 역 분화를 사용할 때 가중치의 편미분은 오차 함수와 함께 사용되어 비례 적으로 가중치를 조정합니다. 입력 값 자체 및 대상 y 값과 비슷한 작업을 수행 할 수있는
나는 기계 학습을 위해 앤드류 교수 과정을 거의 거치지 않았으며 뉴튼의 방법을 사용하여 물류 회귀 분석을위한 성적표를 보았습니다. 그러나 그라데이션 강하를 사용하여 로지스틱 회귀를 구현할 때 어떤 문제가 발생합니다. 생성 된 그래프가 볼록하지 않습니다. 다음과 같이 내 코드는 간다 : 을 내가 방정식의 벡터화 구현을 사용하고 있습니다. %1. The bel
큰 데이터 세트를 분류하기 위해 SGD를 사용하려고합니다. 데이터가 너무 커서 메모리에 저장할 수 없기 때문에 partial_fit 메서드를 사용하여 분류자를 학습하고 싶습니다. from sklearn.linear_model import SGDClassifier
def batches(l, n):
for i in xrange(0, len(l),
내 질문은 Coursera 과정의 데이터 (https://www.coursera.org/learn/machine-learning/)를 기반으로하지만 검색 후에는 일반적인 문제로 보입니다. 그래디언트 디센트는 데이터 정규화 (pic.1)에서 완벽하게 작동하지만 J (비용 함수)가 무한대로 매우 빠르게 증가하면서 원래 데이터 (그림 2)에서 잘못된 방향으로 이
미니 배치를 사용하는 스토캐스틱 그라데이션 디센트 알고리즘은 일반적으로 미니 배치의 크기 또는 개수를 매개 변수로 사용합니다. 이제 모든 미니 배치가 정확히 동일한 크기 여야합니까? 예를 들어 테이크 MNIST에서 훈련 데이터 (60K 훈련 이미지) 지금 우리에게 857 mini-batches of size 70 (as specified) and one m
내가로부터 코드를 사용하여 그라데이션 하강을 구현하려고 해요 : X = [1; 1; 1;]
y = [1; 0; 1;]
m = length(y);
X = [ones(m, 1), data(:,1)];
theta = zeros(2, 1);
iterations = 2000;
alpha = 0.001;
for iter = 1:iterations
벡터화를 사용하여 그라디언트 디센트에 대한 코드를 구현했지만 비용 함수가 정확하게 감소하지 않는 것으로 보입니다. 대신 비용 함수가 매 반복마다 증가하고 있습니다. 는 n + 1 개 벡터로 세타 가정 는, Y가 (N + 1) function [theta, J_history] = gradientDescent(X, y, theta, alpha, num_iter