Human-Modeling in Sequential Decision-Making: An Analysis through the Lens of Human-Aware AI

Motivation

• Known: 기존에 'human-centered AI', 'human-compatible AI', 'human-in-the-loop AI' 등 다양한 용어가 혼용되어 왔으며, 인간-AI 상호작용 연구는 활발하나 'human-aware AI'의 명확한 정의가 부족한 상태이다.
• Gap: 인간-인식형 AI 시스템의 본질적 특성에 대한 명확한 정의 부재, 그리고 순차적 의사결정 분야에서 실제로 인간 모델링을 수행하는 연구의 체계적 분석과 분류 프레임워크 부재이다.
• Why: AI 시스템이 인간과의 상호작용을 중심으로 설계되고 있는 현 시점에서 인간-인식형 AI의 명확한 개념 정립과 현 연구 동향의 체계적 파악은 향후 연구 방향 수립과 연구 공백 해소에 필수적이다.
• Approach: 인간-AI 상호작용의 특성을 분류하기 위한 프레임워크를 제시하고(감독자/교사, 팀원, 최종 사용자 역할), 최근 3년간의 주요 AI 학회 논문들을 이 프레임워크에 따라 분석하며, 사회과학 참고 여부 및 사용자 연구 실시 여부를 추가 분석한다.

Achievement

Figure 1: A visualization of the three modes in which the

• 인간-인식형 AI의 정의: 인간 상호작용의 명시적 인정(F1)과 인간 모델링을 고려한 설계(F2)라는 두 가지 특성으로 인간-인식형 AI를 체계적으로 정의
• 상호작용 역할 분류 프레임워크: 인간이 감독자/교사, 팀원, 최종 사용자로서 AI와 상호작용하는 세 가지 주요 모드를 식별하고 각 모드에서 필요한 인간 모델 제시
• 현재 연구 현황 분석: 최근 순차적 의사결정 분야 논문들의 인간 모델링 방식, 사용 AI 기법, 사회과학 이론 활용도, 사용자 연구 실시 여부를 체계적으로 검토
• 연구 공백 식별: 기존 연구에서 간과되고 있는 잠재적 연구 문제들을 도출하여 향후 연구 방향 제시

How

Figure 1: A visualization of the three modes in which the

• 문헌 리뷰를 통한 'human-aware AI'의 개념 발전 과정 추적", '다양한 인간-AI 상호작용 시나리오에서 필요한 인간 모델 분류(MH: 인간 모델, MRh: 인간의 AI 인식 모델)
• 논문 샘플링: 최근 3년간 주요 AI 학회(NeurIPS, ICML, ICLR, IJCAI, AAAI 등)의 순차적 의사결정 관련 논문 체계적 검토
• 각 논문에 대한 다중 차원 분석(인간 역할, 설계 고려도, 인간 모델링 형태, 사회과학 참고, 사용자 연구 실시 여부, 사용 AI 기법)
• 분석 결과를 제시된 프레임워크에 따라 분류 및 시각화

Originality

• Human-aware AI'의 핵심 특성을 두 가지 명확한 기준(F1, F2)으로 정의하여 기존의 모호한 개념을 구체화", '인간의 다양한 역할(감독자, 팀원, 사용자)을 다중 에이전트 시스템 관점에서 체계적으로 분류하고 각 역할별 필요 모델 명시
• 순차적 의사결정 분야의 인간 모델링 연구를 최초로 체계적으로 분석한 종합 리뷰
• 사용자 연구 실시 여부와 사회과학 이론 활용도를 정량적으로 분석하여 현 연구의 방법론적 강점과 약점 파악

Limitation & Further Study

• 범위 제한: 워크숍 논문의 제약으로 최근 3년, 주요 학회로만 한정하여 전체 인간-AI 상호작용 연구를 대표하기에 불완전
• 정성적 분석: 논문 분류와 분석이 주로 정성적 방식이므로 분석자의 주관성 개입 가능성 존재
• 이론 검증 부재: 제시된 프레임워크의 타당성과 유용성이 제한된 데이터셋으로만 검증되었으므로 더 광범위한 적용 필요
• 후속 연구: 각 역할별 인간 모델링의 최적 수준과 형태에 대한 실증적 연구, 다문화 관점에서의 인간-AI 상호작용 패턴 분석, 인간 모델링 복잡도와 시스템 성능의 관계 규명 필요

Evaluation

총평: 본 논문은 혼용되던 'human-aware AI' 개념을 명확히 정의하고 체계적 분석 프레임워크를 제시하여 인간-AI 상호작용 연구의 이론적 기초를 제공한다. 순차적 의사결정 분야의 현황 분석을 통해 구체적 연구 공백을 식별함으로써 향후 연구 방향 설정에 실질적 기여를 한다.