회귀 분석 (Regression)

• 두 변수 간의 관계를 분석하는 통계 기법으로, 독립 변수(또는 설명 변수)가 종속 변수(또는 반응 변수)에 어떻게 영향을 미치는지를 파악하는 데 사용됩니다.
• 주로 데이터를 기반으로 예측 모델을 구축하는 데 활용되며, 주어진 변수들이 종속 변수의 값을 얼마나 잘 예측할 수 있는지를 알아보는 데 중요합니다

선형회귀분석 (Linear Regression)

• 경사하강법(Gradient Descent)은 기계 학습에서 모델의 손실 함수를 최소화하기 위해 사용되는 최적화 알고리즘입니다.
• 종속 변수와 독립 변수 간의 선형적인 관계를 분석하는 통계 기법입니다. 즉, 독립 변수가 종속 변수에 미치는 영향을 직선 방정식의 형태로 표현하는 방법입니다.
• 가장 기본적인 예측 모델 중 하나로, 주어진 데이터를 기반으로 종속 변수의 값을 예측하거나 두 변수 간의 관계를 분석하는 데 사용됩니다.

경사 하강법 (Gradient Descent)

• 아래 그림에서 cost를 최소로 만드는 w, b를 찾기 위한 방법

• 아래의 공식을 활용하여 위 그림에 있는 면의 경사를 따라 내려가며 cost가 최소인 부분을 찾는다.