원칙은 있다
책임성, 투명성, 공정성, 안전, 규제 준수 [논문3, p.2]
Problem
왜 이 연구인가 — 원칙과 현장 사이의 간극
WHO 지침, EU AI Act, NIST AI RMF처럼 헬스케어 AI 거버넌스의 원칙은 이미 정교하게 정리되어 있습니다. 그러나 병원이 그 원칙을 실제 운영에서 어떻게 지킬지에 대한 지침은 부족합니다. 이를 원칙–실천 간극(Principle–practice gap)이라고 부릅니다. [논문2, p.48–49]
이 연구는 그 간극을 "원칙이 더 필요하다"가 아니라 "운영 구조가 비어 있다"는 문제로 다시 정의합니다. [논문3, p.28]
운영 구조가 없다
언제 확인하고, 누가 승인하고, 무엇을 기록하는가 [논문4, p.1125]
경험이 먼저 신호를 보낸다
환자의 불안·불신, 직원의 업무 마찰은 기술 실패보다 먼저 나타난다 [논문3, p.2, p.27]
Architecture
HCEE — 인간중심경험공학
HCEE는 환자와 직원의 경험을 사후 만족도(결과 변수)가 아니라 거버넌스를 움직이는 입력 신호(Input signal)로 다시 위치시킵니다. [논문2, p.49; 논문3, p.8]
정책 계층 Policy Layer
안전·책임·인간 감독·공정성 등 상위 기준과 경계 설정 [논문3, p.16]
거버넌스 계층 Governance Layer
기준을 운영 규칙·검토 절차·에스컬레이션으로 번역 [논문3, p.16–17]
통제 계층 Control Layer
실제 개입 실행 — 4개 레버 조정 [논문3, p.16, p.19]
경험 계층 Experience Layer
환자·직원 상호작용이 쌓여 PXI·EXI가 형성되는 감지 지점 [논문3, p.16]
위 계층은 방향을 내리고, 아래 계층은 경험 신호를 올리는 양방향 폐쇄 루프
PXI
Patient Experience Index · 환자경험지수
존엄 인식, AI 신뢰, 소통 만족, 치료 참여 [논문2, p.54]
EXI
Employee Experience Index · 직원경험지수
전문성 존중, AI 협업 만족, 업무 통제감, 전문직 성취감 [논문2, p.54]
트리거–통제 규칙 Trigger–Control rules
TC-01
PXI < 70
환자 측 부담 완화 조정 [논문3, p.10, p.12]
TC-02
EXI < 65
직원 업무 부담·감독 공백 조정 [논문3, p.10, p.12]
TC-03
|PXI − EXI| > 15
두 영역 간 균형 재조정 [논문3, p.10, p.12]
임계값은 시뮬레이션 설계 변수이며, 실제 적용 시 기관별 보정이 필요합니다. [논문3, p.10]
4개 통제 레버 Control levers [논문3, p.19]
AAL AI Autonomy Level · AI 자율 수준
HOI Human Oversight Intensity · 인간 감독 강도
TR Trust Recalibration · 신뢰 재조정
IF Information Flow · 정보 흐름
Research journey
연구 여정 — 네 편의 논문, 하나의 질문
-
1
모델을 비교하다
생성형 AI 모델은 병원 경영 영역별로 다르게 쓰여야 하는가?
방법 가상 200병상 병원, 4개 LLM × 25개 시나리오 = 100개 응답, 5점 루브릭
결과 단일 모델로는 부족 → 하이브리드 AI 거버넌스 제안 [논문1, p.16, p.30–31]
-
2
개념을 세우다
인간의 경험을 거버넌스 변수로 넣을 수 있는가?
방법 SER-M 모델, 설계과학연구(DSR), 에이전트 기반 시뮬레이션
결과 HCEE 개념과 4계층 아키텍처 제안 [논문2, p.48]
-
3
루프를 닫다
경험 신호가 감지–통제–학습으로 이어지면 시스템이 달라지는가?
방법 NetLogo 시뮬레이션, 4개 시나리오(S1–S4), 강건성 검증 180회
결과 S1 < S2 < S3 순서가 일관되게 유지 [논문3, p.1, p.11, p.26]
-
4
업무로 내리다
조직 수준 구조가 개별 업무(환자 이송)에서도 작동하는가?
방법 서비스 수준 아티팩트, 결정론적 테스트 6건, 통제 제거 실험
결과 4가지 설계 요인 도출 [논문4, p.1149]
개별 AI 적용(AA, AI Application)에서 조직의 AI 전환(AX, AI Transformation)으로 — 그 사이에 무엇이 필요한가를 따라간 연구입니다. [논문4, p.1126]
Publications
게재 논문 4편
병원경영학회지 31(1), 16–39, 2026
Comparative Analysis of Generative AI Models for Hospital Management Decision Support
4개 생성형 AI 모델(GPT-5.2, Gemini 3 Pro, Claude Opus 4.5, DeepSeek-V3)을 병원 경영 5대 영역에서 비교하고, 모델별 역할을 배치하는 '병원 AI 선택 바로미터(Hospital AI Selection Barometer)'를 제안했다. [논문1, p.16]
병원경영생성형 AI의사결정 지원LLM하이브리드 AI 거버넌스
AI경영학회지 (AI Journal of Business) 2(2), 48–61, 2026
Human-Centered Experience Engineering for Healthcare AI Governance: A SER-M Model Approach
원칙–실천 간극을 메우기 위해 HCEE 개념을 세우고 SER-M 모델로 체계화했다. 경험 지표(PXI·EXI)와 트리거–통제 규칙을 갖춘 4계층 거버넌스 아키텍처를 시뮬레이션으로 검토했다. [논문2, p.48]
헬스케어 AI 거버넌스HCEESER-M설계과학연구에이전트 기반 시뮬레이션
Systems 14(7), 777, 2026
Healthcare AI Governance as a Closed-Loop: A Simulation Based Analysis of Human-Centered Experience Engineering
HCEE를 폐쇄 루프 운영 통제 시스템으로 설계하고, 감지만 하는 조건(S2)보다 감지·통제·학습이 결합된 조건(S3)에서 PXI·EXI가 더 높고 안정적임을 보였다. [논문3, p.1]
Closed-loop governancePXIEXIAdaptive governanceAgent-based simulation
DOI 10.3390/systems14070777
한국산업융합학회 논문집 29(5), 1125–1158, 2026
Task-Level AI Governance in the Healthcare Industry: Design and Functional Validation of a Patient Transport Artifact
HCEE를 환자 이송 서비스의 관리 AI 아티팩트로 구체화했다. AI 추천과 실행 사이에 제약 확인과 인간 승인을 두고, 추천·최종 결정·변경 사유·규칙 버전을 하나의 이벤트 ID로 묶었다. [논문4, p.1125]
AI 거버넌스인간 감독설계과학연구환자 이송AI 전환
DOI 10.21289/KSIC.2026.29.5.1125
Key numbers
핵심 수치
100
4개 LLM × 25개 경영 시나리오 응답을 루브릭으로 평가 [논문1, p.26]
+34.5% / +43.6%
완전 HCEE(S3)의 PXI·EXI, 거버넌스 없음(S1) 대비 (시뮬레이션) [논문3, p.21]
30 / 30
무작위 시드 30개 모두에서 S1 < S2 < S3 순서 유지 [논문3, p.26]
6 / 6
환자 이송 아티팩트 테스트 6건이 사전 합격 조건과 일치 [논문4, p.1147]
위 수치는 합성 지표(Synthetic index)를 사용한 시뮬레이션과 비식별 테스트 환경의 결과이며, 실제 병원의 운영 성과를 뜻하지 않습니다. [논문3, p.10, p.29; 논문4, p.1139]
AA에서 AX로 가는 다리 — 4가지 설계 요인 [논문4, p.1149]
- 제약 기반 자동화 경계Constraint-based automation boundaries
- 인간의 결정 권한Human decision authority
- 결정 가시성Decision visibility
- 버전 복구 가능성Version recoverability
Researcher
연구자
김민성 Minseong Kim
- 소속
- aSSIST University AI융합공학 박사과정 (AI Convergence Engineering)
- 지도교수
- 장중호 교수 (Joongho Chang)
- 연구 관심
- 헬스케어 AI 거버넌스, 인간중심경험공학(HCEE), 병원 디지털 전환, 데이터 기반 병원 경영 [논문2, p.61]
Ask the papers