본문 바로가기

(●'◡'●) Categories 🐅387

네트워크 | Network layer: Data Plane 라우터의 근본 역할은 입력 링크에서 출력 링크로 데이터그램을 전달하는 것이다. 라우터는 트랜스포트 계층과 애플리케이션 계층을 지원하지 않으므로 프로토콜 스택에서 네트워크 계층의 상위 계층은 존재하지 않는다. 포워딩 패킷이 라우터의 입력 링크에 도달했을 때 라우터는 그 패킷을 적절한 출력 링크로 이동시켜야 한다. 라우터가 입력 링크 인터페이스에서 적당한 출력 링크 인터페이스로 데이터그램을 전송하는 내부적인 동작을 의미 라우팅 송신자가 수신자에게 패킷을 전송할 때 네트워크 계층은 패킷 경로를 결정해야 한다. 이러한 경로를 계산하는 알고리즘을 라우팅 알고리즘이라 한다. 네트워크 전반에 걸쳐 출발지에서 목적지까지 데이터그램의 종단간의 경로를 결정하는 것이다. 2022. 11. 29.
Gradient Descent Method (RSS, RMSE, Coefficient of determination) 위의 그래프는 MSE에 해당하는 오차함수 그래프이다. 이 오차의 현재 지점에서의 도함수를 구하여 기울기를 구하고 Iterative 하게 Weight를 최신화하는 방식에 대한 시각화 자료이다. 이때의 a는 learning rate이다. W가 점점 기울기 부호의 반대 방향으로 이동하는 것을 확인할 수 있다. RSS와 RMSE의 개념이 등장한다. RSS는 Mean이 아닌 Residual로 각 오차의 제곱을 평균내는 것이 아닌 그대로 더한 값을 말한다. RMSE는 MSE에 Root를 씌운 형태로 Original 한 오차의 값을 표현하고자 할 때 사용된다. 오차가 음의 값을 가지기 때문에 제곱을 해서 평균을 구했는데 반대로 루트를 씌우게 되면 원래 오차의 크기에 해당하는 값을 구할 수 있기 때문이다. R^2의 개.. 2022. 11. 2.
Introduction to Linear Regression. Perspective of SLE(System of Linear Equation) and Gradient Descent Supervised Learning은 label이 있는 데이터에 대한 학습을 의미한다. Unsupervised Learning의 가장 큰 두 가지 Task는 Classification과 Density Estimation으로 나눌 수 있다. 이는 분포에 대한 가정을 하느냐 안하느냐에 따라서도 세분화되어 나뉜다. 반면 이의 경우 라벨링이 존재하기 때문에 데이터를 어떻게 해석하고 분류하는 지에 대해서를 다룬다고 이해하면 된다. Supervised Learning의 경우 label이 있는 데이터를 기반으로 학습을 하고 최종 목표는 데이터 X에서 Y로 맵핑할 수 있는 함수 F를 찾는 것이다. 이 역시 모델링에 해당한다고 보면 된다. 두 가지 큰 Task에 대해서는 Regression의 경우 연속적인 분포에 대해서.. 2022. 11. 2.
Clustering using Centroid-based approach. What is k-Means Algorithm Centroid-based Approach는 k-Means 알고리즘을 사용한다. 이 접근 방식은 기존의 Hierachical한 방식이 Time과 Space가 너무 많이 소요된다는 점에 착안하여 등장한다. 좀 더 효율적인 알고리즘을 사용한 Clustering 방식이 필요하다. k-Means의 장점은 이해하고 구현하기 쉽다는 것이지만 오직 local minimun만이 얻어진다는 것이 단점이다. 또한 초기화하기 힘들고 outlier에 민감하다는 것이다. k-Means 알고리즘의 아이디어에 대해 알아보자. 각각의 데이터들이 각각의 Cluster로 독립적으로 할당시킨다. Dissimilariy 방식으로 거리 측정 방식을 정의하고, within cluster의 표준편차를 최소화할 수 있는 Cluster로 결정된다... 2022. 11. 1.
Understanding of Unsupervised Learning (Clustering Algorithm) Agglomerative Method. 금까지 살펴봤던 Density Estimation은 Data에 Label이 존재하지 않는 Unsupervised Learning에 해당한다. 이는 머신러닝의 일부에 해당한다. 그렇다면 다른 Learning의 방법은 어떤 것이 있는지 살펴보자. Unsupervised Learning은 주어진 데이터의 Target Output 이 존재하지 않았다. Ground Truth 값이 없다고도 표현한다. 즉, Objective는 데이터의 Interesting Pattern을 찾는 것이다. 이 중에 두 가지의 대표적인 케이스가 존재하는데 첫째는 Density Estimation이고 둘째는 Clustering이다. Density Estimation은 샘플 데이터의 분포를 모델링하는 것이고 Clustering은 비슷한 샘.. 2022. 11. 1.
Understanding about Nonparametric Density Estimation. Parzen Window and kNN Method Parametric Distribution 모델의 경우 데이터의 분포 추정하기가 편리하다는 장점이 있다. 하지만 특정한 functional form에 있어서 제한적이고 적합하지 않은 경우가 발생한다. 이에 반해 Nonparametric 방법은 전반적인 데이터 분포에 대해 가정이 없다는 것이 특징이다. Nonparametric 방법으로는 Histogram이 있다. 당연히 히스토그램은 많이 들어봤지만 이것이 어떻게 Nonparametric한 방법에 속하는지 생각해볼 필요가 있다. Bin이라는 개념이 등장하는데 이는 equally-spaced interval이라고 생각하면 된다. 동일하게 분류된 구간 속에 해당 Data가 얼마나 들어오는지를 측정하는 방식을 채택한다고 생각하면 된다. Bin의 너비를 Vi라고 .. 2022. 11. 1.
MLE about Discrete & Continuous Distributions & Inference about the Exponential Family w.r.t Continuos Distribtion 변수가 이산적으로 발생하는지 연속적으로 발생하는 지에 따라 분포의 형태를 나눌 수 있다. 현재 Parameter Estimation에 대해서 다루고 있음을 기억해야 한다. 사실 분포를 가정하는 것이기 때문에 당연히 Parameter Estimation이다. 표기는 보통 다음과 같은 방식으로 한다. 변수, Type, Parameter를 작성한다. 위의 경우 Normal Distribution의 Type에서 평균과 분산에 해당하는 파라미터를 가지고 데이터를 추정하겠다는 뜻이 된다. 베르누이 분포는 두 가지의 결과만이 나오는 경우를 의미한다. 이 경우 모델 (Likelihood)은 발생하거나 발생 안하거나의 확률에 해당한다고 보면 된다. 그냥 간단하게 발생확률을 고려하면 된다. 총 N번 시행된다고 했을 때 각.. 2022. 11. 1.
What is Density Estimation? The Basic approach to Machine Learning Density Estimation is unsupervised learning task. unsupervised란 데이터에 해당하는 라벨이 존재하지 않은 상태로 학습이 진행되는 것으로 데이터의 분포를 파악하는 것이 주 Task이다. 그래서 Density Estimation의 목표는 Underlying Probablility distribution model로 해당 데이터의 분포 형태를 파악하는 것이다. 그래서 Likelihood라는 개념이 등장하는데, 말에서 알 수 있듯이 데이터의 발생확률을 추정하는 과정이 사용된다. Density Estimation을 할 때 하나의 중요한 가정이 존재하는데 이는 IID라고 불리는 Independently Identically Distributed의 성질이다. 이는 무슨.. 2022. 11. 1.
음악의 이해 중간고사 정리 옛날 활은 뾰족하게 되어 있음 콘체르토라는 것은 협주곡이고 RV는 비발디의 약자. 클래식 음악의 구성 요소 7가지 기억하기 음의 높이, 음의 길이, 화음, 박절, 빠르기, 셈여림, 음색 음악의 형식은 대표적으로 론도와 변주 두 가지로 나뉜다. (둘 중 하나는 출제됨) 음악적으로 의미를 갖는 가장 작은 단위를 모티프라고 한다. 리듬의 패턴이나 음높이 패턴으로 느낄 수 있다. 다음과 같은 음높이의 동일한 진행이 모티프의 예라고 할 수 있다. 악구와 악절의 의미를 기억할 필요가 있다. 말을 할때 문장처럼 하나의 의미를 이루는 것으로 모티브보다 조금 더 규모가 크다. 론도 형식은 주제가 여러 차례 반복되는 사이에 에피소드라고 일컫는 대조적 매시지가 등장한다. 아래의 예시로 A라는 주제가 여러 차례 반복되는 것을.. 2022. 10. 14.
[네트워크] Network | TCP segment 구조 TCP 프로토콜은 오직 종단 시스템에서만 동작하고 중간의 네트워크 요소에서는 동작하지 않으므로, 중간의 네트워크 요소들은 TCP 연결 상태를 유지하지 않는다. 또한 Full-Duplex 서비스를 제공한다. 이는 한 호스트 A의 프로세스와 다른 호스트 B의 프로세스 사이에 TCP 연결이 있다면, 애플리케이션 계층 데이터는 B에서 A로 흐르는 동시에 A에서 B로 흐를 수 있다. 또한 TCP 연결은 항상 단일 송신자와 단일 수신자 사이의 점대점 (Point to Point) 이다. 멀티 캐스팅이 불가능하다는 것이다. TCP 시그먼트는 헤더 필드와 데이터 필드로 구성되어 있다. 데이터 필드는 애플리케이션 데이터를 담는다. MSS는 최대 세그먼트로 제한된다. TCP가 웹 문서의 이미지와 같은 큰 파일을 전송할 때.. 2022. 10. 12.

티스토리툴바