728x90 반응형 AI & Data Science/LG Aimers AI & Data Science/LG Aimers 2023. 1. 14. 3. 지도학습(회귀,분류) - 4. Least-Squares, Normal Equation 최소제곱해(Least-Squares)와 정규방정식(Normal Equation)을 정리한다. 선형대수 수업에서 공부했던 내용이지만 많이 까먹어서 다시 공부해서 정리해 본다. 우선 The Best Approximation Theorem 이란 것이 있다. 우리는 어떠한 벡터를 찾고자 할 때, 낮은 차원에서 찾고자 하는 벡터와 가장 가까운 벡터를 찾는 것에 관심이 있다. 위와 같은 정리를 통해서 실수 공간에서 벡터와 해당 차원보다 낮은 차원에서 가장 가까운 벡터를 찾기 위해서는 Orthogonal Projection(정사영)을 이용하면 된다는 것이다. 위는 주어진 식을 행렬로 표현한 것이다. Ax는 A의 Column Space에 속하는 것이 확실하다. 그러나 b가 그렇다는 보장은 없다. 만약에 b가 A의 열공.. AI & Data Science/LG Aimers 2023. 1. 14. 3. 지도학습(회귀,분류) - 3. Optimization(최적화) GD,Adam 머신러닝, 딥러닝에서 굉장히 중요한 역할을 하는 optimizer가 있다. 머신러닝 모델은 굉장히 복잡하기 때문에 앞서 언급한 loss function 혹은 cost function이 최소가 되는 지점을 찾는 것이 쉽지 않다. 최솟값을 찾아가는 과정을 최적화(Optimization)라고 부른다. 이를 수행하는 알고리즘을 학습 알고리즘이라고 한다. 이러한 이유로 학습 알고리즘(Optimizer)을 사용한다. 대부분의 학습 알고리즘의 방법은 미분을 통해서 gradient를 구한 후 해당 방향의 반대 방향(음수)으로 점진적으로 나아가 최적확사 되는 값을 찾는 형태이다. 대표적으로 경사하강법(Gradient Descent)과 역전파(Backpropgation) 알고리즘이 존재한다. 옵티마이저는 굉장히 많다. 요.. AI & Data Science/LG Aimers 2023. 1. 14. 3. 지도학습(회귀,분류) - 2. Hypothesis, Cost Function 비용함수(cost function)는 손실함수(loss function), 목적함수(objective function)이라고 부른다. 비용함수란 최적화 이론에 기반을 둔 함수이다. 신경망의 지도학습에 사용된다. 지도학습은 오차가 최소인 가중치를 구하는 것을 목적으로 한다. 이때 신경망의 오차를 측정하는 척도가 바로 비용함수다. 신경망의 오차가 크면 비용함수의 값도 크고 신경망의 오차가 작으면 비용함수도 작은 값을 갖는다. 즉 비용함수는 신경망의 오차에 비례한다. 학습 알고리즘에 Training Set을 넣게 되면 알고리즘은 해당 데이터를 바탕으로 가설함수(Hypothesis) h를 제시한다. 알고리즘이 잘 만들어졌다면 새로운 데이터에 대해서 적절한 price 값을 도출해 줄 것이다. 가설 함수를 위처럼 .. AI & Data Science/LG Aimers 2023. 1. 14. 3. 지도학습(회귀,분류) - 1. linear Regression, Bias, Variance, Drop out 머신러닝은 크게 3가지로 구분 가능하다. 1. 지도 학습 2. 비지도 학습 3. 강화 학습 지도학습이란 정답을 알려주고 학습시키는 머신러닝 학습 방법이다. 입, 출력 데이터를 포함한 훈련데이터가 존재하고 새로운 데이터에 대한 출력을 예측한다. 이때 여러 데이터에 대해 여러 개의 값 중 하나를 도출해 내는 분류와 데이터 분석을 특징을 통해 답을 찾아내는 회귀가 있다. 분류는 데이터 군집화를 통해서 데이터가 속해있는 군집을 찾고 분류하고, 회귀는 통계적 방법으로 찾는다. 분류는 이중 분류와 다중 분류 문제가 있다. 이중 분류 문제는 보통 참/거짓으로 생각하면 되고 다중분류는 여러 개의 분류 중 하나를 고르는 것이다. 결론적으로 분류 문제는 예측 결과 값이 연속적이지 않고 이산값(discrete)이다. 회귀는.. AI & Data Science/LG Aimers 2022. 12. 26. LG Aimers 선정 & 수료 https://www.lgaimers.ai LG AI LG와 청년들이 함께 만드는 더 가치 있는 미래 www.lgaimers.ai 학교 홈페이지를 보고 지원했던 AI교육이다. 선발과정에서 별도의 서류나 코딩테스트를 보진 않았다. 다만 LG계열사 지원 시 채용 가점이 있고 데이콘을 이용해서 해커톤을 진행하는 부분이 흥미로워서 신청했다. 정규직은 참여가 불가능하지만 계약직의 경우 참여가 가능하다고 답변을 받았다. 출퇴근길에 버스에서 강의 들으면서 갈 예정이다. 출근 시간을 보내기 좋은 콘텐츠가 될 것 같다. 교육 내용도 블로그에 정리할 예정이다. 데이콘에서 좋은 성적을 받기 위해 열심히 해보겠습니다~! 무사히 수료했습니다..! 이전 1 다음 728x90 반응형
