NLU 기술의 발전 과정을 살펴 보면 현재까지 다양한 기술의 변화가 이뤄지고 있다. 워드 임베딩은 Neural Probabilistic Language Model(NPLM)이 발표된 이후부터 Word2Vec > FastText > ELMO > BERT 기법으로 발전하고 있다. 자연어 처리 언어 모델 중 구글이 공개한 언어모델인 BERT 에 대해서 포스팅 해보려고 한다. | BERT란? 'BERT' 는 Bidirectional Encoder Representations from Transformers 의 약어로, 원어에서 말하고 있는 것처럼 transformer의 양방향 encoder 라는 것을 알 수 있다. 여기서 encoder는 입력 값을 숫자의 형태로 바꾸는 모듈을 의미한다. 따라서 BERT는 문맥을..
뭔가 요즘 다시 열심히 공부하려는 다짐을 세우다 보니 나의 블로그명이 눈에 들어왔다. 아시다시피, 나의 블로그 명은 "천천히 하나씩" 이다. 문득, 이렇게 지은 이유에 대해 간단하게 소개해보려고 한다. 나는 미래에 대한 걱정도 계획도 많다보니 늘 이것저것 하고 싶은 것이 많았다. 지금도 그렇지만 , 그래서 늘 뭔가 계획을 세우면 너무 많은 것을 이루고 싶어하는 경향이 있다. 그래서 이런 마음을 조금 가다듬고 하고 싶은 일들을 천천히 하나씩 이뤄내자는 의미에서 블로그 명을 그렇게 짓게 되었다. 하고싶은 것들을 생각하기만 하면 가슴이 설레고 얼른 이뤄낼 나의 모습을 마주하고 싶은 마음에 늘 들떠있게 되는것 같다. 아마 글에 나의 마음을 얼마나 늘어놓든 결국 같은 말이 나올 것 같아서그렇게 길게 늘어놓고 싶지..
쿠버네티스는 컨테이너 오케스트레이션 툴의 종류 중 하나이다. 그래서 쿠버네티스의 개념을 알아보기 전에 컨테이너 오케스트레이션에 대해서 미리 개념을 익혀두자. 컨테이너 오케스트레이션 (Container Orchestration) 란, 컨테이너의 배포, 관리, 확장 ,네트워킹을 자동화하는 기술로, 복잡한 컨테이너 환경을 효과적으로 관리하기 위한 도구이다. - 컨테이너 오케스트레이션 도입의 시작 서버를 관리한다는 것은 서버의 상태를 관리 한다는 것이다. 서버 상태 관리를 잘하기 위한 방법들을 몇가지 생각해보지만 계속해서 한계점이 있었다. 1. 문서화를 잘해보자. > 생각보다 안되는 예외 케이스들이 생긴다 2. 서버관리 툴을 써보자 (chef, puppet labs, ansible..) > 툴을 이용하여 설정하..
