News Featured

헬스케어 AI, 거품 붕괴 뒤에 무엇이 남을까? [HAIE 2025-51]

이번 주는 의료 현장에서 AI가 가진 거품과 현실을 아주 냉철하게 분석한 논문을 골라봤습니다. 우리는 흔히 AI 기술이 발전하면 의료 현장도 자연스럽게 혁신될 거라 기대하지만, 실제 임상 적용은 생각보다 더디기만 하죠. 왜 그럴까요? 오늘 소개할 핵심 논문은 그 이유를 우리가 기술, 사람, 윤리를 마치 별개의 트랙처럼 따로 노는 파편화된 접근으로 다루기 때문이라고 지적합니다.

News

830억 자본의 편향: AI 의료기기는 왜 특정 병원으로만 향했나 [HAIE 2025-50]

최근 5년 사이 FDA 승인 AI 의료기기가 350% 급증했지만, 이 생태계에서 산업체(기업)와 임상의 간의 재정적 관계에 대해서는 알려진 바가 거의 없습니다. 기존 의료기기 시장처럼 AI 분야에서도 금전적 관계가 기술 채택에 영향을 미치는지, 그리고 이것이 의료 접근성 격차를 심화시키는지 확인하고자, 연구진은 2017년부터 2023년까지의 'Open Payments' 데이터베이스(미국 내 제약/의료기기 회사가 의사에게 제공한 금전적 가치를 기록한 데이터)를 분석했어요.

News

심장 소리만으로 성별을 알 수 있다? 편리함 뒤에 숨은 감시자 [HAIE 2025-49]

이번 주는 '비접촉 센싱 기술' 뒤에 숨겨진 프라이버시 문제를 다룬 논문을 핵심 이슈로 꼽았습니다. 보통 심전도(ECG) 같은 검사는 몸에 전극을 붙여야 해서 불편하죠. 그래서 최근에는 몸에 닿지 않고도 레이다(Radar)를 쏴서 심장 박동을 측정하는 기술이 주목받고 있습니다. 훨씬 위생적이고 환자도 편안하니까요. 우리는 흔히 이런 레이다 센서가 단순히 "심장이 얼마나 빨리 뛰는지(심박수)" 같은 생체 신호만 측정한다고 생각합니다. 그런데 만약, 이 신호 안에 나도 모르는 나의 민감한 개인정보가 숨겨져 있다면 어떨까요?

News

챗봇 자격증, 말만 잘 하면 될까? [HAIE 2025-48]

이번 주는 생성형 AI 시대에 가장 시급하면서도 까다로운 주제인 의료용 챗봇의 평가 기준을 다룬 논문을 핵심 이슈로 선정했습니다. 최근 여러 챗봇 모델이 쏟아져 나오면서 "AI가 의사보다 공감을 잘한다", "설명을 잘한다"는 식의 이야기가 많이 들려오지요. 하지만 정작 "그래서 이 챗봇을 병원에서 써도 안전한가?"라는 질문 앞에서는 명확한 기준이 없어 모호했던 것이 사실입니다. 오늘 소개해 드릴 체계적 문헌 고찰에서, 연구진은 기존에 난립해 있던 11개의 평가 프레임워크를 분석해 HAICEF라는 새로운 평가 체계를 제안했습니다.

News

임상현장 AI 도입의 진짜 변수들: 흔들리는 신뢰와 드러난 공백 [HAIE 2025-47]

이번 주에는 ‘설명 가능한 AI가 실제 의료인에게 어떤 영향을 미치는가’라는 오래된 질문에 정면으로 답한 흥미로운 논문을 하나 소개합니다. 초음파 이미지를 기반으로 한 임신 주수 예측 모델에 설명 기능을 붙였을 때, 신뢰·의존·성능의 변화가 의료인마다 극도로 다르게 나타난다는 내용입니다. 이 논문은 XAI가 실제 임상가의 신뢰, 의존, 성능에 어떤 영향을 미치는지 정량적으로 측정하고자 했어요. 태아 초음파 이미지 기반 임신 주수 추정 작업을 초음파 검사의 9명 + 레지던트 1명, 총 10명에게 시켰고요.

News

헬스케어 AI, 혼돈을 헤집고 길을 밝히기 위해 [HAIE 2025-46]

아시는 것처럼 헬스케어 영역에 생성형 AI를 도입하기 위한 조금 이른 시도들이 이미 있지요. 하지만, 점차 어떤 점을 고려해야 하고 대응책으로 지금 저희가 가지고 있는 것이 무엇인지에 대한 구성이 어느 정도 그려지고 있는 것 같아요. 이 논문도 보여주고 있지만, LLM을 제어하기 위해 컨텍스트 엔지니어링, RAG, LLM-as-Judge, HITL, 멀티 에이전트 루프 & 오케스트레이션, 평가 데이터세트 구축 등을 통해 여러 층위로 앱/알고리듬을 구성하고 모니터링 및 상시 개입을 위한 설계를 사전에 구축해야 한다는 것이죠.

News

동의의 얼굴, AI의 한계 [HAIE 2025-45]

이번엔 수술 동의서에 관한 내용을 다룬 논문을 핵심 이슈로 뽑았습니다. 영국에서 환자 376명을 대상으로 Consent-GPT (수술 동의서를 받기 위해 만든 AI 시스템)와 인간 의사가 동의서를 받을 때 경험적으로 어떤 차이가 있는지 비교한 논문입니다. 환자 설명에 AI를 활용하는 건 이상한 일이 아니라고 생각할 수도 있지요. 결국, 설명은 충분한 이해와 공감으로 이루어져야 하는 거라면, AI는 둘 다 잘할 수 있을 테니까요. 그러나, 환자들은 Consent-GPT와의 상담을 좋게 여기지 않았습니다.

News

인공지능 시대의 돌봄과 존엄 [HAIE 2025-44]

이번주엔 여러 논문 중, 같이 읽어보고 싶은 논문으로 두 가지를 꼽았습니다. 하나는 말기 돌봄에 AI 및 전자 기록이 미칠 영향에 대해 철학적으로 접근한 논문이고, 다른 하나는 AI ECG, 즉 AI 기반 심전도 기기의 비용효과성을 중국 농촌 지역 대규모 자료로 검토한 논문입니다. 한줄 요약만 봐도 흥미로운데요!

News

신뢰할 수 있는 AI, 인간 중심의 미래를 설계하다[HAIE 2025-43]

이번주에도 헬스케어 AI 윤리 관련 흥미로운 연구가 많았습니다만, EU AI법이 해부병리학에 미치는 영향을 분석한 논문을 최우선으로 선정해 보았어요. 최초로 적용된 AI법인 EU AI법, 그리고 보건의료 영역에서 영상의학과 함께 가장 먼저 AI 혁신을 마주한 병리학 실험실의 만남이 매우 큰 시사점을 지니고 있다고 생각했기 때문인데요.

News

AI 시대의 윤리 실험실: 공동체, 정의, 신뢰의 재설계[HAIE 2025-42]

이번주 같이 살펴보고 싶은 논문은 두 가지, 첫째, 음성 바이오마커 활용 헬스테크 스타트업의 프라이버시·규제 커뮤니케이션 실태를 분석한 논문인데요. 현재 헬스케어 AI 윤리의 접근과 현재를 잘 보여주는 논문이라서 같이 읽어보시면 좋을 것 같아요. 둘째, 아프리카 헬스케어 AI의 정의를 우분투 윤리를 바탕으로 재구성한 논문입니다. 기후위기 시대, 개인주의에 기초한 서구 윤리의 대안 중 하나로 "타인을 통한 나의 존재"를 강조하는 우분투 철학 및 윤리가 종종 논의되고 있는데요, 헬스케어 AI 윤리 맥락에서 살펴보시면 좋겠습니다.

News

인공지능의 안전을 넘어 인권으로: 아동부터 임상까지, 인간 중심 AI의 새 기준 [HAIE 2025-41]

이번주엔 arXiv에 올라온 논문 두 개를 선정해 보았습니다. 하나는 4개 연령대(초등 저학년부터 청소년기 중반까지)를 시뮬레이션 하는 '아동 에이전트'를 라마 기반 튜닝(피아제/비고츠키 이론 기반)으로 만들어 대화 시나리오를 측정하는 방식인 "ChildSafe" 벤치마크를 제시한 연구예요. 다른 하나는 UN의 Guiding Principles on Business and Human Rights (UNGPs)를 인권 위험을 평가하는 프레임워크로 삼아 모델 영향을 평가하는 작업을 수행한 연구입니다.

News

[HAIE 2025-40] 헬스케어 AI 윤리 뉴스레터

이번주 핵심 소식으로 뽑은 두 가지는 "평균 환자 오류"와 임상적 맥락에서 프롬프트 엔지니어링의 한계를 다룬 논문입니다. 평균 환자 오류는 생성형 AI가 내놓는 답이 전체 인구의 평균에 맞춰져 있으므로, 헬스케어 AI 활용시 흔한 질병에선 문제가 없겠지만 희귀 질환들에서 모델이 성능을 제대로 발휘할 수 없다는 것을 의미합니다. 최근 AI의 환각 문제 다음으로 과일반화(overgeneralization)의 문제가 주목받고 있는 상황에서, 이를 의료적 맥락에 적용하여 "평균 환자 오류"라고 이름 붙인 것은 흥미로운 시도라고 생각합니다.

News

[HAIE 2025-39] 헬스케어 AI 윤리 뉴스레터

스타트업 아키도랩스가 만든 ScopeAI는 의료인-환자 대화를 전사한 자료를 바탕으로 예비 진단 및 치료 계획을 구성하는 것을 골자로 한다고 해요. AI가 진단 및 계획 초안을 만들면 의사가 승인하는 방식입니다. 같은 스타트업이 운영하는 아키도는 이미 AI 기반 클리닉을 열었고, 심장내과, 내분비내과, 가정의학 진료를 AI를 활용해 운영하는 한편, 이동의학 팀을 꾸려서 로스앤젤레스의 홈리스를 대상으로 한 치료에 적용하고 있다고 합니다.

News

[HAIE 2025-38] 헬스케어 AI 윤리 뉴스레터

이번주엔 두 가지 소식, 한 연구진이 발표한 정신건강 검토 데이터 세트와 청소년의 AI 사용에 대한 우려와 대응에 초점을 맞춥니다. arXiv에 실린 논문은 "EthicsMH"라는 이름의 정신건강 AI 추론 평가를 위한 파일럿 데이터 세트를 발표했습니다. 또, 청소년의 AI 남용에 대해 이미 미국에서 절차적인 검토나 입법이 이루어지고 있는 가운데, 우리는 어떻게 대응할 것인지에 대한 논의가 필요한 상황이 되었습니다.

News

[HAIE 2025-37] 헬스케어 AI 윤리 뉴스레터

AI의 빠른 발전은 로봇과 떼놓고 보기 어렵고, 헬스케어 영역에서 주목해서 보아야 할 로봇 기술로 돌봄-소셜 로봇을 꼽을 수 있는데요! 논문은 소셜 로봇이 신뢰 및 감정적 반응을 유발한다는 기존의 관찰을 통해 설명 동의 기준에 대해 문제를 제기합니다. 인간은 충분히 설득당하고, 논리 외 다른 기준과 요건들에 끌려 불합리한 결정을 내릴 수 있는 존재입니다. 소셜 로봇이 이 부분을 위협하고 있는 것은 사실이며, 따라서 전통적인 동의 기준을 소셜 로봇에 적용하는 것은 불충분하지요.

News

[HAIE 2025-36] 헬스케어 AI 윤리 뉴스레터

미국 공보험 시스템인 메디케어가 AI 기반 사전승인 심사 제도를 도입했다는 기사와 비대면 상담 세션에서 심리상담사가 ChatGPT를 사용해 환자와 면담하고 있음이 들킨 몇몇 사례에 대해 조사한 기사를 중요 소식으로 꼽았습니다. 관리 업무에 뛰어난 알고리듬을 활용하여 승인, 평가 등을 진행하는 것은 충분히 고려해 볼 만한 일일 거예요. 문제는 AI 업체의 보상이 거절로 인한 비용 절감액 중 일부로 주어진다는 것이지요. 이렇게 설정하면, 업체에겐 AI가 더 많이 거절하도록 설정할 인센티브가 주어집니다.

News

[HAIE 2025-35] 헬스케어 AI 윤리 뉴스레터

이번주엔 다른 자료보다 arXiv에 올라온 논문 두 편이 흥미롭게 다가왔습니다. 웨어러블 기기의 규제에 대한 새로운 논의 및 의학 교육 자료에서 부적절한 언어를 파악하기 위한 AI의 활용에 관한 내용인데요! 규제의 공공 참여는 이전부터 여러 각도에서 계속 검토해 오던 주제라서, 또 의학교육 영역에서 AI 활용의 새로운 접근은 당장 제가 당면한 주제라서 재미있게 살폈던 것 같습니다.

News

[HAIE 2025-34] 헬스케어 AI 윤리 뉴스레터

이번주에 가장 흥미롭게 읽은 연구는 아래 첫 번째로 실린 정신건강의학 임상 데이터셋 구축에 관한 것입니다. 데이터셋 분석 연구는 그동안 헬스케어 AI 윤리에서 주제로 다루었던 (1) 데이터 엄밀성, (2) 접근성, (3) 편향, (4) 익명화(anonymization)의 한계 및 대안으로서 분산 학습(federated learning)과 제한 등 핵심 논의들이 제기되어서 충분히 살펴볼 만한 가치가 있는 것 같습니다.

News

[HAIE 2025-33] 헬스케어 AI 윤리 뉴스레터

가장 흥미로운 논문으로 arXiv에 공개된 PrinciplismQA 벤치마크를 꼽고 싶습니다. 현재 의료윤리의 지형을 형성하고 있는 것은 비첨과 칠드리스의 "생명의료윤리의 원칙들", 그리고 네 원칙을 통해 임상적 결정에서 윤리성을 추구하는 원칙주의(Principlism)입니다. 논문 저자는 LLM의 의료윤리적 판단을 시험하기 위해 "PrinciplismQA" (네, 네 가지 원칙에 기반을 둔 의료윤리 시험 문제입니다!) 벤치마크 데이터를 개발했어요.

News

[HAIE 2025-32] 헬스케어 AI 윤리 뉴스레터

CHART는 생성형 AI 기반 챗봇이 임상 증거를 요약하거나 건강 관련 조언을 제공하는 알고리듬, 프롬프트, 어플리케이션 등을 평가하는 연구를 보고하는 방식의 표준을 제안했습니다. 워낙 대규모 연구로 합의안을 만들었기 때문에, 앞으로 헬스케어 챗봇 연구는 해당 표준을 따라 데이터 정리 및 논문 작성을 할 것을 요구받게 될 텐데요. 이런 표준은 연구 기준을 확보하는 것과 함께, 연구 투명성 및 안전성을 추구하기 위한 노력이라는 점에서 연구 윤리에서 중요한 역할을 합니다.

News

[HAIE 2025-31] 헬스케어 AI 윤리 뉴스레터

병원에서 영상 AI를 선별 목적으로 활용함에 있어 병원 전체 측면의 위험 관리를 검토한 논문은, 특정 인력에게 책임 및 업무의 강도가 집중된다는 것을 여러 문제중 하나로 지적했어요. 이 문제는 이미 프로그래밍 영역에서 드러나고 있듯, AI 도입 후 소수 인력이 이전보다 더 높은 생산성을 발휘하면서 이들에게 업무가 집중되고, 나머지 인력은 정리하거나 이동 배치하는 등의 양상이 의료 영역에서도 충분히 나타날 수 있다는 경고로 읽혀요.

News

[HAIE 2025-30] 헬스케어 AI 윤리 뉴스레터

이번주엔 집단간 차이에 접근하기 위한 기술의 활용을 다룬 논의들이 바로 눈에 들어옵니다. XR 퍼포먼스를 통해 장애 체험의 다른 방식을 제안한 시도와 그에 대한 고찰은 기술이 그저 상호작용을 "매끄럽게" 만들기만 하는 것이 아니라, 나와 다른 이가 겪는 제한과 한계, 소외까지 경험할 수 있도록 하는 대안적 방식을 제안했는데요. 인터페이스의 윤리란 무엇인가? 라는 질문을 적실히 다룬 접근으로 읽힙니다.

News

[HAIE 2025-29] 헬스케어 AI 윤리 뉴스레터

이번주엔 흥미로운 연구들이 몇 가지 발표되어 챙겨드리려 합니다. 특히 헬스케어 AI와 형평성에 관한 연구들이 관심을 끄네요. 형평성, 다양성 및 포용성 원칙, 소위 EDI를 헬스케어 AI에 반영하기 위한 연구나, 의료 계열 머신러닝에서 편향 인식 증진을 위한 데이터톤(특정 주제에 관한 데이터를 제공하고 정해진 시간 내에 앱, 모델 등을 개발해 보는 행사) 연구 등은 편향-형평성 문제 해결을 위한 구체적인 방법론이 이미 제시, 활용되고 있음을 보여주는 자료입니다.

News

[HAIE 2025-28] 헬스케어 AI 윤리 뉴스레터

헬스케어 AI에선 프롬프트 입력의 차이가 여전히 문제가 될 것 같습니다. 뉴스레터에 실린 기사에선 환자가 무엇을 어떻게 입력하는지에 따라 진단 결과가 꽤 차이가 나더라는 논문을 인용하여 오타가 진단에 영향을 미친다라고 설명하고 있는데, 충분히 염려할 부분인 것 같아요.

News

[HAIE 2025-27] 헬스케어 AI 윤리 뉴스레터

이번주엔 헬스케어 AI 윤리와 관련하여 "ChatGPT 정신 이상(ChatGPT psychosis)"이 주목을 받았습니다. 한 매체가 ChatGPT와의 대화를 통해 편집증적 망상에 빠졌다가 빠져나온 사용자 사례를 싣고, 관련하여 후속 보도를 이어가고 있는 것인데요. 생성형 AI로 인한 직접적 해악의 발생이라는 점에서 해당 사안은 계속 추적해 볼 필요가 있을 것 같습니다. 국내에서도 특히 청년층이 조언이나 상담을 위해 해당 서비스를 많이 사용하고 있다는 보고가 있는 상황에서, 바로 대응이 필요한 사례라는 생각도 들고요.