Research Thrusts
AISLab은 인공지능과 보안의 교차점에서 발생하는 근본적인 문제들을 탐구합니다. 우리는 모델의 취약점을 분석하여 더욱 견고한 AI를 설계하는 ‘Security for AI’와, 지능형 알고리즘을 활용해 고도화된 사이버 위협에 대응하는 ‘AI for Security’라는 두 가지 핵심 축을 중심으로 연구를 수행하고 있습니다. 최신 컴퓨터 비전, 자연어 처리, 시스템 보안 기술을 융합하여 안전하고 신뢰할 수 있는 디지털 미래를 위한 해답을 제시합니다.
Attacking and hardening the intelligence inside AI models
물리 환경에서 동작하는 적대적 패치, 확산 모델 기반 적대적 예제, 모델 역전 공격, 멤버십 추론 공격 등 AI 모델을 직접 겨냥하는 보안 위협과 방어 기법을 연구합니다. XAI를 활용한 공격 최적화, 의료 데이터 비식별화, 프라이버시-유용성 트레이드오프까지 공격 설계부터 방어 체계 구축까지 포괄합니다.
Stress-testing the safety boundaries of large AI models
대형 언어 모델의 탈옥 공격, 에이전트 AI 취약점 분석, AI 소프트웨어 공급망 보안을 연구합니다. 난해한 프로그래밍 언어 기반 탈옥, 활성화 스티어링을 통한 거절 제어 조작, LLM 분류기에 대한 모델 역전, 패키지 환각을 이용한 슬롭스쿼팅 공격 등 생성형 AI 생태계 전반의 신뢰성과 안전성을 다룹니다.
Securing AI systems that learn together across boundaries
연합 학습 환경에서 발생하는 레이블 플리핑·모델 포이즈닝·멤버십 추론 등 다양한 보안 위협을 연구하고 견고한 집계 알고리즘을 개발합니다. 안드로이드 악성코드의 시각적 표현 기반 분류, 지식 증류를 활용한 경량 탐지 모델 설계, 데이터 이질성 환경에서의 신뢰 가능한 협력 학습까지 엔드포인트 보안 전반을 포괄합니다.
Finding attackers hidden in the flow of network data
그래프 신경망과 강화학습을 활용해 네트워크 침입·이상 행위를 실시간으로 탐지하는 시스템을 연구합니다. 무선 네트워크, APT 공격, 클라우드 이상 탐지 등 다양한 위협 시나리오를 다루며, LoRA 기반 도메인 적응과 실무 적용 가능한 벤치마크 데이터셋 구축을 포함합니다.
Exposing the invisible seams in AI-generated content
rPPG 신호 분석을 통한 딥페이크 탐지, 학습 없이 동작하는 AI 생성 이미지·영상 판별, 시각적 트리거를 활용한 백도어 공격 탐지까지 합성 미디어 포렌식 기술을 연구합니다. 감시 카메라 환경, 클래스 불균형, 주파수 도메인 분석 등 현실적 제약 조건에서의 탐지 견고성을 중점적으로 다룹니다.
