본문 바로가기

🌴 Course Review (Master)4

MLE의 구체적인 뜻과 추정방법. KL Divergence와 MLE의 상관관계 Maximum Likelihood Estimation Likelihood function이란 무엇인가? 파라미터 해석에 따라 얼마나 관측치가 얼마나 가능성이 있는지를 표현하는 것을 의미합니다. 즉, 저희가 집중해야 하는 것은 파라미터를 어떻게 해석하느냐인데 파라미터로부터 도출되는 값(얼마나 가능성이 있는지에 대한 값 == Likelihood)이 가장 큰 것을 찾기 위한 방법이 MLE 방법입니다. 보통 MLE를 구할 때 Log 를 붙이게 되는데 그 이유는 Log함수는 단일 증가함수 이기 때문에 기존 최대값을 갖게되는 세타에 영향을 미치지 않고 계산을 더 쉽게할 수 있기 때문입니다. 또한 Log 연산의 경우 곱셈이 모두 합으로 표현되는 장점이 있습니다. Binomial Distribution의 경우를 살펴보.. 2024. 3. 7.

기계학습에서 Estimation을 하는 근본적 이유. Parametric Estimation이란? Motivation for MLE 만일 동전을 던졌을 때 동전의 앞면이 나올 확률을 x 라고 하자. 10번 던졌을 경우 앞면이 7번 나오고 뒷면이 3번 나온 경우 x는 0.7 이라고 답할 것이다. 그런데 이 확률을 어떻게 추론한 것인가? 이 추론 과정은 관측(Observation) 으로부터 파라미더 (Parameter)를 도출하는 과정으로 생각할 수 있다. 데이터로부터 패턴(Pattern)을 찾아내는 방법 중 하나는 The Most likely probability model을 찾는 것이다. 대표적으로 두 가지 방식으로 패턴을 찾아내는데 하나는 Supervised Learning으로 정답 label 없이 입력값 x와 출력값 y의 경향성을 찾아내는 것이고 다른 하나는 Unsupervised Learning.. 2024. 3. 7.

Primitive Transformation 성질 분석하기 위의 글을 통해 Cartesian Coordinate 대신 Homogeneous Coordinate를 사용하는 이유에 대해서 살펴보았습니다. 표현하고자 하는 Transformation의 경우 Primitive Transformation (Translation, Rotation, Scaling) 으로 표현할 수 있습니다. 예를 들어 임의의 지점 P1에 대하여 Rotation을 적용하는 경우 이를 어떻게 하면 간소화할 수 있을까요? 해당 지점은 원점으로 Translation을 한 뒤 회전하고자 하는 각도 θ 만큼 회전시키고 다시 원래의 지점으로 Translation을 한다면 기존의 Primitive한 성질을 모두 만족시킬 수 있을 것입니다. 그렇다면 기본적인 축 (x-axis, y-axis)이 회전되어 있는.. 2024. 3. 4.

Homogeneous Coordinate를 사용하는 이유 Homogeneous Coordinate를 적용하는 분야는 Computer Graphics와 3D Vision과 같이 다차원 물체의 표현이 이루어지고 복잡한 연산을 통해 많은 정보량을 다루는 곳입니다. 흔히 말하는 Geometric Transformation는 다음 3가지를 말합니다. 1. Changing the position of points 2. Translation, scaling, Rotation 3. Animating object and camera 이 중에서 저희는 2번에 해당하는 Matrix Transformation과 관련된 총괄적인 개념을 공부하고자 합니다. 첫 번째로 Translation (평행 이동) 입니다. 2차원 평면 상에서 x, y 좌표에 dx, dy 만큼 더하여 이동이 이루어.. 2024. 3. 4.

이전 1 다음

티스토리툴바