Traditional Neural Network나 CNN은 Sequence Data에 대해서 좋은 성능을 내지 못하였다. 이러한 데이터들은 시간이나 순서에 중요한 정보를 가지고 있기 때문에 이러한 특성을 같이 포함시킬 수 있는 네트워크가 필요하였다. 그리고 그것이 바로 RNN이다. 1. RNN RNN은 시간이나 순서에 따른 처리를 해주기 위하여 등장하였다. 기본적으로 ANN의 형태를 가지지만, 이전 state 값 $s_{i-1}$가 현재 state 값 $s_i$를 계산할 때 사용된다는 점이 다르다. 각 state는 이전 정보를 함축하고 있고, 따라서 제일 마지막 $s_n$은 모든 정보를 포함하게 된다. $$h_t = f_W(h_{t-1}, x_t)$$ 1.1 RNN Cell 기본적으로 RNN Cell은..

학습을 얼마나 잘하냐에 따라서 모델의 성능이 달라지니 매우 중요한 부분이라고 할 수 있다. 학습에서 가장 중요한 것은 다름아닌 데이터이다. 데이터가 곧 머신러닝이다 라고 말해도 과언이 아니다. **물론 적은 데이터나 불규칙한 데이터로도 학습이 가능하게 하는 연구도 있으나 데이터는 학습에 핵심이라는 것은 진리이다. 이번 글에서는 학습의 개념과 데이터와의 관계, 또 머신러닝에서의 데이터 세분화를 살펴볼 것이다. 1. 신경망 학습 신경망에서 학습이란, 간단하게 말해 최적의 가중치 매개변수를 찾는 과정이라고 할 수 있다. 분류문제를 예로 들어보자, 나는 강아지 이미지가 input으로 들어가면 0, 고양이 이미지는 1을 내보내주는 모델을 만들고 싶다. **input 이미지는 (width, height, 3)의 3..

인공지능을 처음 접했던 것은 대학교 4학년 수업에서였다. 시키는 일만 하는 코딩만 배우다, 스스로 배우는 프로그램이라니...충격이였다. (그래서 빠지게 된듯...) 이번에 올릴 게시글들은 내가 처음 인공지능을 공부할 당시에 github에 요약해놓았던 것들을 모아모아 쓸 것이다. 인공지능을 많이 배웠던, 이미 공부했던 사람이라면 매우 쉽게 느껴질 수 있으니 참고바란다. 1. Machine Learning 인공지능이란, 인간의 인지와 관련된 기능을 모사하는 SW/HW를 말한다. 말그대로 기계가 사람의 지능을 가지게 되어서 여러 Task를 해내는 것이다. 현재까지 엄청난 발전이 이루어져 왔지만, 아직까지 사람과 비슷한 지능을 가진 인공지능은 꿈만 같은 이야기다. Machine Learning에 대한 설명 중 ..