개편 축하드립니다. 새로운 포멧으로의 개편을 축하드립니다. 벌써 한 달이나 지났는데 이제야 찾아뵙네요! 상당히 모바일 퍼스트에 최적화 되어있고 프로필 기능도 신선해요. 앞으로도 흥미로운 소식 잘 보도록 하겠습니다. 멀리 바라보는 한 걸음 한 걸음 응원합니다.
[Mostly AI-Generated] "Attention is all you need" 논문의 1저자인 Ashish Vaswani는 그 이후에 어떤 연구를 했을까? "Attention is All You Need" 논문은 2017년 Google Brain 팀에서 발표한 획기적인 연구로, 자연어 처리 분야에 혁명을 일으킨 Transformer 모델을 소개한 논문입니다. 이 논문은 BERT, GPT 등 현대 자연어 처리 모델의 기반이 되는 아키텍처를 제시했다는 점에서 매우 중요한 의미를 갖습니다. 이 글에서는 논문이 발표된 후 이 논문의 1저자인
[Mostly AI-Generated] IoT(Internet of Things) 환경에서 NLP(Natural Language Processing)나 LLM(Large Language Model)은 어떻게 활용될까? 개요 초기에는 NLP가 IoT 장치와의 상호작용을 자동화하고 최적화하는 데 중점을 두었으며, Crowdsourcing을 통해 IoT 장치를 식별하는 방법이 소개되었습니다. 이후, LLM의 발전과 함께 IoT 환경에서 자연어 명령을 이해하고 처리하는 능력이 강조되었으며, ThingML과 같은 도구를 통해 IoT 장치의 데이터 분석이 가능해졌습니다. 2021년부터는 자연어 이해(NLU)와 생성(NLG), 대화 시스템 등 다양한
[Half-AI-Generated] 노벨 물리학상 수상자 John Joseph Hopfield : 생물학적 신경망 시스템의 복잡성을 이해하고 계산적으로 모델링하여 다양한 문제를 해결하고자 노력한 연구자. Image source : https://www.nobelprize.org/prizes/physics/2024/hopfield/facts/ 개요 John Joseph Hopfield(이하 Hopfield)의 연구는 1980년대부터 2020년대까지 생물학적 시스템과 신경망의 계산 모델(Computational Model)에 초점을 맞추고 있습니다. 초기에는 생물학적 뉴런의 비동기 병렬 처리와 컴퓨터 시스템의 content-addressable memory를 설명했습니다. 1980년대 중반에는 비선형 아날로그 뉴런을 활용하여 최적화
[Mostly AI-Generated] AI 분야의 논문들에서는 Military 관련 내용을 어떻게 언급하고 있을까? 개요 Military 분야에서는 AI가 적극적으로 활용될 수 있습니다. Arxiv에 업로드된 논문들은 2021년부터 2024년까지 'military'와 관련된 다양한 주제를 다루고 있습니다. 2021년에는 게임과 시뮬레이션, 인공지능, 무인 항공기(UAV), 군사 통신과 IoT, 얼굴 인식 등 다양한 기술이 군사 분야에 어떻게 적용될 수 있는지를 탐구했습니다. 특히, 게임과 AI의 연결, 군사 시뮬레이션에서의
[Mostly AI-Generated] AI 분야의 논문들에서는 Spiking neural network에 대해 어떤 이야기를 해왔을까? 개요 Spiking Neural Network(SNN)는 뇌의 신경 활동을 모방하여 정보를 처리하는 신경망 모델로, 전통적인 인공 신경망과 달리 이진 스파이크를 통해 정보를 전달하며, 시간적 및 공간적 동적 특성을 활용합니다. 이러한 특성 덕분에 많은 연구들이 SNN이 기존의 Artificial Neural Networks(ANNs)와 비교하여 에너지 효율성, 생물학적 타당성, 그리고 특정 작업에서의 성능
[Mostly AI-Generated] 노벨 물리학상 공동수상자인 Geoffrey Everest Hinton는 최근 AI분야에서 어떤 연구에 참여했을까? *** 전혀 닮지 않은 그림... +_+ University of Toronto의 교수인 Geoffrey Hinton은 1980년대부터 진행해 온 신경회로망과 기계학습, 인공지능 분야와 관련된 연구에서 이루어 낸 업적으로 노벨 물리학상을 공동 수상하였습니다. 이 글은 2020년 이후 AI 관련 분야의 Arxiv에 업로드된 논문들 중에서 Geoffrey Hinton이 참여한 논문들을 바탕으로 작성하였습니다. 따라서 Geoffrey Hinton의 모든 연구업적을 설명하는 것은
[Mostly AI-Generated] 노벨화학상 공동수상자인 DeepMind의 Demis Hassabis는 AI분야에서 어떤 연구에 참여했을까? Google DeepMind의 CEO인 Demis Hassabis가 3차원 단백질 구조 예측과 관련한 업적으로 노벨 화학상을 공동 수상하였습니다. DeepMind라고 하면, 이세돌 9단과 대국을 하였던 AlphaGo를 떠올리게 되는데요, 2020년부터 최근까지 Demis Hassabis는 인공지능 분야에서 어떤 연구를 수행했는지 알아보겠습니다. 이 글은 2020년 이후 AI 관련 분야의 Arxiv에 업로드된 논문들 중에서 Demis Hassabis가 참여한 논문들을 바탕으로
[Mostly AI-Generated] Knowledge Graph는 RAG 과정에서 어떤 역할을 수행할까? 2020년부터 2024년까지 Knowledge Graph는 Retrieval-Augmented Generation(RAG) 과정에서 중요한 역할을 수행하며, 그 활용 방식이 진화해 왔습니다. 초기에는 Knowledge Graph를 통해 RAG 모델이 더 많은 배경 지식을 활용하고, 정보 보강과 추론 지원을 받았습니다. 2021년에는 엔티티와 관계의 구조화된 표현을 통해 자연어 이해와 질문 응답 시스템에서 성능을 향상시켰습니다. 2022년에는 Knowledge Graph Embeddings를 사용하여
[Mostly AI-Generated] AI 디지털 교과서는 어떤 문제를 지니고 있는가? 살펴보고 고민하기 현재 대한민국 교육계의 주요 화두들 중 하나는 ‘AI 디지털 교과서’를 도입하는 것입니다. 교육부에서는 AI 디지털 교과서의 빠른 도입을 추진하고 있지만, 성급한 추진에 대한 우려와 비판의 목소리도 높습니다. 이번 글에서는 “김어준의 뉴스공장” 채널에서 2023년부터 최근까지 AI 디지털 교과서의 도입과 관련하여 어떠한 문제점을 제기해 왔는지 살펴보고, 올바른 도입과 활용을