[AI Math] 경사하강법 - 매운맛
경사하강법으로 선형회귀 계수 구하기 선형회귀 목적식 = $\lVert y - X\beta \rVert_2$ 목적식을 최소화하는 $\beta$를 찾아야 하므로 목적식을 각각의 $\beta_k$로 미분한 다음과 같은 그레디언트 벡터를 구해야 한다. [\nabla_{\bet...
Recent posts
[AI Math] 경사하강법 - 순한맛
경사하강법 미분 (differentiation) 변수의 움직임에 따른 함수값의 변화를 측정하기 위한 도구 \[f'(x) = \lim_{h \to 0}\frac{f(x+h)-f(x)}{h}\] 미분은 함수 $f$의 주어진 점 $(x, f(x))$에서의 접선...
[AI Math] 행렬이 뭐에요
행렬이란? 행(row) 벡터를 원소로 가지는 2차원 배열 행(row)과 열(column)이라는 인덱스(index)를 가진다. 행렬의 특정 행(열)을 고정하면 행(열) 벡터라 부른다. 전치행렬 (transpose matrix): 행과 열의 인덱스가 바뀐 행렬 ...
[AI Math] 벡터가 뭐에요
벡터란? 숫자를 원소로 가지는 리스트(list) 또는 배열(array) 공간에서 한 점을 나타냄 원점(0, 0)으로부터 상대적 위치를 표현 벡터의 연산 숫자를 곱해주면 길이만 변함 (스칼라 곱 scala product) 벡터끼리 같은 모양을 가지면 덧셈, ...
[백준 BOJ_2096] 내려가기 Python 풀이
출처: 백준 온라인 저지 문제 풀이 동적계획법으로 풀어주었습니다. 처음에는 3차원 배열로 내려가며 각각 max와 min을 갱신하여 구해주었지만 메모리 초과가 나게 되었습니다. 그래서 한 줄씩 입력받아 cache를 갱신해주며 풀어주었습니다. cache는 다음과 같습니다. ...