이번 기술 블로그에서는 저번에 알아본 Transformer에 이어서 Large Language Model (LLM)에서 가장 핫한 토픽인 ChatGPT의 초창기 모델인 GPT모델이 어떻게 만들어졌는지에 대해서 알아보고자 합니다.

이번 기술 블로그에서는 최근 Large Language Model (LLM)과 더불어 이미지 분야, 시계열 분야 등, 다양한 도메인에서 backbone 모델로써 가장 많이 활용되는 트랜스포머 모델에 대해서 알아보고자 합니다.

안녕하세요 👋 액션파워 플랫폼그룹 프론트엔드 개발팀입니다. 오늘은 다글로 랜딩 페이지를 개발하며 웹 성능을 개선한 경험을 공유해보려 합니다.

Anomaly Detection에 대한 수요는 항상 존재해 왔습니다. 단순 반복 작업을 컴퓨터에게 시킬 수 있다면 경제적, 시간적 측면에서 큰 이득을 얻을 수 있기 때문입니다. 그런데, 사람이 이해하는 예외적인 상황에 대한 이해를 기계나 로봇에게 가르쳐주는 것은 어려운 일입니다. 어려운 이유는 다음과 같습니다.

2019 ICLR에서 혜성(?) 같이 등장한 논문으로, training dynamics를 이용하여 example difficulty를 측정하는 첫 논문입니다.

인공지능 공부를 막 시작하는 분들이라면, 한번쯤은 다들 들어보셨을 RNN과 LSTM에 대해서 자세히 다뤄보도록 하겠습니다.

액션파워 연구진의 논문 두 편이 2022년 국제전산언어학술대회(COLING 2022)에 게재되었습니다:

주어진 영상의 내용을 한 눈에 알아볼 수 있도록, 정리/요약/분류해주는 모든 방법들을 의미합니다. 주로 사용되는 방식은 다음과 같습니다.

좋은 논문들을 찾아보는 것 뿐만 아니라, 투고를 고민하고 계시는 능력자 분들을 위해, 수많은 AI 학회들 중 각 분야 별 상위 학회들을 모아보았습니다.

AI 개발자분들은 매일 방대한 크기의 라이브러리를 살펴보고, 또 그 속에서 수많은 함수들을 마주합니다. 그러다 보면 이 함수의 각 파라미터가 어떤 역할을 하는지 일일이 알기 어려울 때도 있고, 힘들게 직접 구현해 놓은 기능이 이미 지원되던 기능인 것을 알고 허탈할 때도 많습니다. 😢