이번 뉴스레터에서는 실시간 인공지능을 연구하는 조영은 교수님 연구실을 소개합니다.

조영은 교수님은 서울대학교 컴퓨터공학부에서 박사 학위를 취득하고, 서울대학교병원에서 연수연구원(Postdoctoral Fellow)으로 재직하며 인공지능 시스템 및 의료 데이터 기반 연구를 수행하였습니다. 현재 한양대학교 ERICA 인공지능학과 조교수로 재직하며 인공지능 시스템 연구실(AI Systems Lab.)을 이끌고 있습니다.

주 연구 분야는 실시간 시스템 및 임베디드 시스템, 대규모 언어모델(LLM) 추론 최적화, 메모리 및 I/O 병목 분석, 그리고 시스템-알고리즘 공동 설계(System-ML co-design)이며, 특히 이론적 분석과 실제 시스템 구현을 결합한 연구를 통해 AI의 실용성과 확장성을 동시에 확보하는 데 주력하고 있습니다.

또한 GPU 기반 대규모 실험 인프라와 실제 차량 및 로봇 플랫폼을 활용하여 연구 결과를 실세계에서 검증하는 데 강점을 가지고 있습니다.

연구 성과는 실시간 시스템 분야의 대표 학회인 Real-Time Systems Symposium와 컴퓨터 아키텍처 및 시스템 분야의 저널인 IEEE Transactions on Computers 등에 발표되었으며, 인공지능과 시스템의 융합을 통해 차세대 지능형 시스템의 기반을 구축하는 데 기여하고 있습니다.

> Q1. 현재 진행중인 산학과제(혹은 연구과제)에 대한 소개 부탁드립니다.

저희 인공지능 시스템 연구실(AI Systems Lab.)은 대규모 인공지능 모델이 실세계 환경에서 효율적이고 안정적으로 동작할 수 있도록, 시스템 관점에서의 근본적인 문제를 해결하는 연구를 수행하고 있습니다. 특히, 최근 급격히 발전하고 있는 대규모 언어모델(LLM)과 같은 AI 기술을 실제 서비스 및 실시간 환경에 적용하기 위한 실시간 인공지능(real-time artificial intelligence)에 중점을 두고 있습니다.

현재 주력하고 있는 핵심 연구 주제는 크게 네 가지입니다.

첫째, Multi-Token Prediction(MTP)으로, 기존의 토큰 단위 생성 방식의 한계를 극복하고 여러 토큰을 동시에 예측함으로써 LLM 추론의 지연(latency)을 줄이고 효율성을 향상시키는 기술을 연구합니다.
둘째, Memory/IO-aware AI로, LLM 추론 과정에서의 메모리 대역폭 병목과 데이터 이동 비용을 줄이기 위한 시스템적 최적화 기법을 탐구하고 있습니다.
셋째, Real-time AI Systems 분야에서는 자율주행, 로보틱스 등 시간 제약이 중요한 환경에서 AI 모델이 안정적으로 동작할 수 있도록 스케줄링 및 자원 관리 기법을 연구하고 있습니다.
마지막으로 Real-time Vision-Language-Action(VLA) 시스템을 위한 Adaptive Video Preprocessing 기술을 연구하고 있으며, 이는 입력 영상의 품질(QoS)과 관심 영역(Region of Interest)을 동적으로 조절하여 환경과 자원 상황에 맞게 효율적인 인지 및 의사결정을 가능하게 하는 것을 목표로 합니다.

이와 더불어, 다양한 산학 협력 과제를 통해 실제 산업 문제를 해결하는 연구도 활발히 수행하고 있으며, 대규모 모델의 실시간 서비스 적용, 자원 제약 환경에서의 AI 최적화, 고효율 추론 시스템 구축과 같은 응용 연구를 진행하고 있습니다.

> Q2. 인공지능 시스템 연구실 멤버를 소개해 주신다면?

저희 인공지능 시스템 연구실(AI Systems Lab.)은 시스템과 인공지능의 경계를 넘나드는 연구에 관심을 가진 학생들과 함께 성장하고 있습니다. 현재 박사과정 1명과 외국인 학생을 포함한 8명의 학부생으로 구성되어 있으며, 학부생들 중 다수는 향후 대학원 진학을 목표로 연구 경험을 쌓고 있습니다. 다양한 배경을 가진 구성원들이 각자의 관심 분야에서 자기 주도적으로 연구를 수행하고 있습니다.

연구실 구성원들은 피지컬 AI, LLM 추론 최적화, 메모리 및 시스템 아키텍처, 그리고 실시간 AI와 같은 분야를 중심으로 연구를 진행하고 있으며, 문제 정의부터 구현, 실험까지 전 과정을 경험하며 연구 역량을 키워나가고 있습니다. 또한 서로의 연구를 공유하고 활발히 토론하는 문화를 바탕으로, 협업을 통한 문제 해결 능력 또한 중요하게 생각하고 있습니다.

특히 연구실 학생들은 인공지능융합연구소와 함께 자율주행 경진대회를 기획, 운영하여 스케일카 기반의 자율주행 경진대회를 개최하는 등, 연구 활동을 넘어 실제 시스템 구현과 응용 경험을 확장하는 다양한 활동에도 적극적으로 참여하고 있습니다.

AI 기술을 단순히 활용하는 것을 넘어, 실제 시스템에서의 한계를 이해하고 이를 극복하는 연구를 수행하는 것을 목표로 하며, 장기적으로는 글로벌 수준의 AI 시스템 연구자로 성장하는 것을 지향하고 있습니다.

 > Q3. 효과적인 연구성과를 위하여 연구실 분위기를 포함하여 연구과제 수행 노하우 혹은 특별한 방법이 있으면 소개 부탁드립니다.

저희 연구실은 자율성과 협력을 기반으로 한 연구 문화를 가장 중요하게 생각합니다. 연구 주제 선정부터 문제 해결 과정까지 학생들이 스스로 깊이 있게 고민하도록 장려하며, 정기적인 세미나와 미팅을 통해 아이디어를 공유하고 발전시키고 있습니다.

특히, 시스템과 인공지능이 결합된 연구의 특성상, 제안하는 방법론이 단순한 성능 개선에 그치지 않고 이론적으로도 타당한지를 중요하게 평가하며, 수학적 모델링과 분석을 기반으로 한 엄밀한 접근을 강조하고 있습니다. 동시에, 이러한 접근이 실제 환경에서도 유효하게 동작하는지를 확인하기 위해 반복적이고 체계적인 실험과 검증 과정을 필수적으로 수행하고 있습니다.

이를 위해 GPU 서버 등 연구 인프라뿐만 아니라 실험용 자율주행 차량과 로봇 플랫폼을 보유하고 있으며, 실제 환경에서의 데이터 수집과 검증을 통해 연구 결과의 실용성과 신뢰성을 확보하고자 합니다. 실패를 자연스러운 연구 과정의 일부로 받아들이고 다양한 시도를 장려하는 개방적인 분위기 속에서, 이론적 엄밀성과 실세계 적용 가능성을 동시에 만족하는 연구를 지향하고 있습니다.

> Q4. 2026년 인공지능 시스템 연구실 발전을 위한 제언 등 꼭 하고 싶은 말씀이 있으시다면?  

2026년은 인공지능 시스템 연구실이 연구 역량과 방향성을 더욱 구체화해 나가는 중요한 시기가 될 것으로 생각합니다. 점차 연구 인력이 확장됨에 따라 연구 주제의 폭과 깊이도 함께 성장할 것으로 기대하고 있습니다.

특히 최근 자율주행, 로보틱스 등에서 Physical AI에 대한 관심이 빠르게 증가하고 있으며, 이는 인공지능이 실제 세계와 상호작용하는 단계로 나아가고 있음을 보여줍니다. 저희 연구실은 이러한 흐름 속에서, 대규모 AI 모델과 실제 시스템을 연결하는 핵심 기술을 다루고 있다는 점에서 Physical AI 분야에서도 충분한 경쟁력을 갖추고 있다고 생각합니다.

다만 연구의 방향에 있어서는 단순한 성과 지표나 단기적인 트렌드에 매몰되기보다는, 실제 시스템에서의 근본적인 병목과 한계를 해결하는 데 집중하고자 합니다. 특히 연산, 메모리, 지연 시간과 같은 시스템적 제약은 Physical AI 환경에서 더욱 중요한 요소이며, 이러한 본질적인 문제를 깊이 있게 탐구하는 것이 연구의 핵심이라고 생각합니다.

유행을 따라가기보다는 스스로 의미 있다고 판단한 문제를 끝까지 파고들고, 이론적 타당성과 실세계에서의 검증을 모두 만족하는 결과를 만들어내는 것이 연구실이 지향하는 방향입니다. 2026년에는 이러한 연구 철학을 바탕으로 각 구성원들이 자신만의 문제를 정의하고, Physical AI 시대를 선도할 수 있는 연구자로 성장하는 한 해가 되기를 기대합니다.