News Featured

인공지능 시대의 돌봄과 존엄 [HAIE 2025-44]

이번주엔 여러 논문 중, 같이 읽어보고 싶은 논문으로 두 가지를 꼽았습니다. 하나는 말기 돌봄에 AI 및 전자 기록이 미칠 영향에 대해 철학적으로 접근한 논문이고, 다른 하나는 AI ECG, 즉 AI 기반 심전도 기기의 비용효과성을 중국 농촌 지역 대규모 자료로 검토한 논문입니다. 한줄 요약만 봐도 흥미로운데요!

News

신뢰할 수 있는 AI, 인간 중심의 미래를 설계하다[HAIE 2025-43]

이번주에도 헬스케어 AI 윤리 관련 흥미로운 연구가 많았습니다만, EU AI법이 해부병리학에 미치는 영향을 분석한 논문을 최우선으로 선정해 보았어요. 최초로 적용된 AI법인 EU AI법, 그리고 보건의료 영역에서 영상의학과 함께 가장 먼저 AI 혁신을 마주한 병리학 실험실의 만남이 매우 큰 시사점을 지니고 있다고 생각했기 때문인데요.

News

AI 시대의 윤리 실험실: 공동체, 정의, 신뢰의 재설계[HAIE 2025-42]

이번주 같이 살펴보고 싶은 논문은 두 가지, 첫째, 음성 바이오마커 활용 헬스테크 스타트업의 프라이버시·규제 커뮤니케이션 실태를 분석한 논문인데요. 현재 헬스케어 AI 윤리의 접근과 현재를 잘 보여주는 논문이라서 같이 읽어보시면 좋을 것 같아요. 둘째, 아프리카 헬스케어 AI의 정의를 우분투 윤리를 바탕으로 재구성한 논문입니다. 기후위기 시대, 개인주의에 기초한 서구 윤리의 대안 중 하나로 "타인을 통한 나의 존재"를 강조하는 우분투 철학 및 윤리가 종종 논의되고 있는데요, 헬스케어 AI 윤리 맥락에서 살펴보시면 좋겠습니다.

News

인공지능의 안전을 넘어 인권으로: 아동부터 임상까지, 인간 중심 AI의 새 기준 [HAIE 2025-41]

이번주엔 arXiv에 올라온 논문 두 개를 선정해 보았습니다. 하나는 4개 연령대(초등 저학년부터 청소년기 중반까지)를 시뮬레이션 하는 '아동 에이전트'를 라마 기반 튜닝(피아제/비고츠키 이론 기반)으로 만들어 대화 시나리오를 측정하는 방식인 "ChildSafe" 벤치마크를 제시한 연구예요. 다른 하나는 UN의 Guiding Principles on Business and Human Rights (UNGPs)를 인권 위험을 평가하는 프레임워크로 삼아 모델 영향을 평가하는 작업을 수행한 연구입니다.

News

[HAIE 2025-40] 헬스케어 AI 윤리 뉴스레터

이번주 핵심 소식으로 뽑은 두 가지는 "평균 환자 오류"와 임상적 맥락에서 프롬프트 엔지니어링의 한계를 다룬 논문입니다. 평균 환자 오류는 생성형 AI가 내놓는 답이 전체 인구의 평균에 맞춰져 있으므로, 헬스케어 AI 활용시 흔한 질병에선 문제가 없겠지만 희귀 질환들에서 모델이 성능을 제대로 발휘할 수 없다는 것을 의미합니다. 최근 AI의 환각 문제 다음으로 과일반화(overgeneralization)의 문제가 주목받고 있는 상황에서, 이를 의료적 맥락에 적용하여 "평균 환자 오류"라고 이름 붙인 것은 흥미로운 시도라고 생각합니다.

News

[HAIE 2025-39] 헬스케어 AI 윤리 뉴스레터

스타트업 아키도랩스가 만든 ScopeAI는 의료인-환자 대화를 전사한 자료를 바탕으로 예비 진단 및 치료 계획을 구성하는 것을 골자로 한다고 해요. AI가 진단 및 계획 초안을 만들면 의사가 승인하는 방식입니다. 같은 스타트업이 운영하는 아키도는 이미 AI 기반 클리닉을 열었고, 심장내과, 내분비내과, 가정의학 진료를 AI를 활용해 운영하는 한편, 이동의학 팀을 꾸려서 로스앤젤레스의 홈리스를 대상으로 한 치료에 적용하고 있다고 합니다.

News

[HAIE 2025-38] 헬스케어 AI 윤리 뉴스레터

이번주엔 두 가지 소식, 한 연구진이 발표한 정신건강 검토 데이터 세트와 청소년의 AI 사용에 대한 우려와 대응에 초점을 맞춥니다. arXiv에 실린 논문은 "EthicsMH"라는 이름의 정신건강 AI 추론 평가를 위한 파일럿 데이터 세트를 발표했습니다. 또, 청소년의 AI 남용에 대해 이미 미국에서 절차적인 검토나 입법이 이루어지고 있는 가운데, 우리는 어떻게 대응할 것인지에 대한 논의가 필요한 상황이 되었습니다.

News

[HAIE 2025-37] 헬스케어 AI 윤리 뉴스레터

AI의 빠른 발전은 로봇과 떼놓고 보기 어렵고, 헬스케어 영역에서 주목해서 보아야 할 로봇 기술로 돌봄-소셜 로봇을 꼽을 수 있는데요! 논문은 소셜 로봇이 신뢰 및 감정적 반응을 유발한다는 기존의 관찰을 통해 설명 동의 기준에 대해 문제를 제기합니다. 인간은 충분히 설득당하고, 논리 외 다른 기준과 요건들에 끌려 불합리한 결정을 내릴 수 있는 존재입니다. 소셜 로봇이 이 부분을 위협하고 있는 것은 사실이며, 따라서 전통적인 동의 기준을 소셜 로봇에 적용하는 것은 불충분하지요.

News

[HAIE 2025-36] 헬스케어 AI 윤리 뉴스레터

미국 공보험 시스템인 메디케어가 AI 기반 사전승인 심사 제도를 도입했다는 기사와 비대면 상담 세션에서 심리상담사가 ChatGPT를 사용해 환자와 면담하고 있음이 들킨 몇몇 사례에 대해 조사한 기사를 중요 소식으로 꼽았습니다. 관리 업무에 뛰어난 알고리듬을 활용하여 승인, 평가 등을 진행하는 것은 충분히 고려해 볼 만한 일일 거예요. 문제는 AI 업체의 보상이 거절로 인한 비용 절감액 중 일부로 주어진다는 것이지요. 이렇게 설정하면, 업체에겐 AI가 더 많이 거절하도록 설정할 인센티브가 주어집니다.

News

[HAIE 2025-35] 헬스케어 AI 윤리 뉴스레터

이번주엔 다른 자료보다 arXiv에 올라온 논문 두 편이 흥미롭게 다가왔습니다. 웨어러블 기기의 규제에 대한 새로운 논의 및 의학 교육 자료에서 부적절한 언어를 파악하기 위한 AI의 활용에 관한 내용인데요! 규제의 공공 참여는 이전부터 여러 각도에서 계속 검토해 오던 주제라서, 또 의학교육 영역에서 AI 활용의 새로운 접근은 당장 제가 당면한 주제라서 재미있게 살폈던 것 같습니다.

News

[HAIE 2025-34] 헬스케어 AI 윤리 뉴스레터

이번주에 가장 흥미롭게 읽은 연구는 아래 첫 번째로 실린 정신건강의학 임상 데이터셋 구축에 관한 것입니다. 데이터셋 분석 연구는 그동안 헬스케어 AI 윤리에서 주제로 다루었던 (1) 데이터 엄밀성, (2) 접근성, (3) 편향, (4) 익명화(anonymization)의 한계 및 대안으로서 분산 학습(federated learning)과 제한 등 핵심 논의들이 제기되어서 충분히 살펴볼 만한 가치가 있는 것 같습니다.

News

[HAIE 2025-33] 헬스케어 AI 윤리 뉴스레터

가장 흥미로운 논문으로 arXiv에 공개된 PrinciplismQA 벤치마크를 꼽고 싶습니다. 현재 의료윤리의 지형을 형성하고 있는 것은 비첨과 칠드리스의 "생명의료윤리의 원칙들", 그리고 네 원칙을 통해 임상적 결정에서 윤리성을 추구하는 원칙주의(Principlism)입니다. 논문 저자는 LLM의 의료윤리적 판단을 시험하기 위해 "PrinciplismQA" (네, 네 가지 원칙에 기반을 둔 의료윤리 시험 문제입니다!) 벤치마크 데이터를 개발했어요.

News

[HAIE 2025-32] 헬스케어 AI 윤리 뉴스레터

CHART는 생성형 AI 기반 챗봇이 임상 증거를 요약하거나 건강 관련 조언을 제공하는 알고리듬, 프롬프트, 어플리케이션 등을 평가하는 연구를 보고하는 방식의 표준을 제안했습니다. 워낙 대규모 연구로 합의안을 만들었기 때문에, 앞으로 헬스케어 챗봇 연구는 해당 표준을 따라 데이터 정리 및 논문 작성을 할 것을 요구받게 될 텐데요. 이런 표준은 연구 기준을 확보하는 것과 함께, 연구 투명성 및 안전성을 추구하기 위한 노력이라는 점에서 연구 윤리에서 중요한 역할을 합니다.

News

[HAIE 2025-31] 헬스케어 AI 윤리 뉴스레터

병원에서 영상 AI를 선별 목적으로 활용함에 있어 병원 전체 측면의 위험 관리를 검토한 논문은, 특정 인력에게 책임 및 업무의 강도가 집중된다는 것을 여러 문제중 하나로 지적했어요. 이 문제는 이미 프로그래밍 영역에서 드러나고 있듯, AI 도입 후 소수 인력이 이전보다 더 높은 생산성을 발휘하면서 이들에게 업무가 집중되고, 나머지 인력은 정리하거나 이동 배치하는 등의 양상이 의료 영역에서도 충분히 나타날 수 있다는 경고로 읽혀요.

News

[HAIE 2025-30] 헬스케어 AI 윤리 뉴스레터

이번주엔 집단간 차이에 접근하기 위한 기술의 활용을 다룬 논의들이 바로 눈에 들어옵니다. XR 퍼포먼스를 통해 장애 체험의 다른 방식을 제안한 시도와 그에 대한 고찰은 기술이 그저 상호작용을 "매끄럽게" 만들기만 하는 것이 아니라, 나와 다른 이가 겪는 제한과 한계, 소외까지 경험할 수 있도록 하는 대안적 방식을 제안했는데요. 인터페이스의 윤리란 무엇인가? 라는 질문을 적실히 다룬 접근으로 읽힙니다.

News

[HAIE 2025-29] 헬스케어 AI 윤리 뉴스레터

이번주엔 흥미로운 연구들이 몇 가지 발표되어 챙겨드리려 합니다. 특히 헬스케어 AI와 형평성에 관한 연구들이 관심을 끄네요. 형평성, 다양성 및 포용성 원칙, 소위 EDI를 헬스케어 AI에 반영하기 위한 연구나, 의료 계열 머신러닝에서 편향 인식 증진을 위한 데이터톤(특정 주제에 관한 데이터를 제공하고 정해진 시간 내에 앱, 모델 등을 개발해 보는 행사) 연구 등은 편향-형평성 문제 해결을 위한 구체적인 방법론이 이미 제시, 활용되고 있음을 보여주는 자료입니다.

News

[HAIE 2025-28] 헬스케어 AI 윤리 뉴스레터

헬스케어 AI에선 프롬프트 입력의 차이가 여전히 문제가 될 것 같습니다. 뉴스레터에 실린 기사에선 환자가 무엇을 어떻게 입력하는지에 따라 진단 결과가 꽤 차이가 나더라는 논문을 인용하여 오타가 진단에 영향을 미친다라고 설명하고 있는데, 충분히 염려할 부분인 것 같아요.

News

[HAIE 2025-27] 헬스케어 AI 윤리 뉴스레터

이번주엔 헬스케어 AI 윤리와 관련하여 "ChatGPT 정신 이상(ChatGPT psychosis)"이 주목을 받았습니다. 한 매체가 ChatGPT와의 대화를 통해 편집증적 망상에 빠졌다가 빠져나온 사용자 사례를 싣고, 관련하여 후속 보도를 이어가고 있는 것인데요. 생성형 AI로 인한 직접적 해악의 발생이라는 점에서 해당 사안은 계속 추적해 볼 필요가 있을 것 같습니다. 국내에서도 특히 청년층이 조언이나 상담을 위해 해당 서비스를 많이 사용하고 있다는 보고가 있는 상황에서, 바로 대응이 필요한 사례라는 생각도 들고요.

News

[HAIE 2025-26] 헬스케어 AI 윤리 뉴스레터

AI는 자체의 편향 때문에 형평성(equity)에 문제를 일으키기도 하지만, 반대로 기존의 불평등을 해소하는 방안을 제시할 수도 있지요. 호주 뇌전증 프로젝트에서 AI 활용에 대한 논의를 통해 AI가 "증강 지능"의 역할을 해야 한다는 두 번째 논문의 주장이나, AI 치료 챗봇의 인간-챗봇 상호작용에 문제를 제기하는 세 번째 논문도 검토해 보면 좋을 것 같습니다.

News

[HAIE 2025-25] 헬스케어 AI 윤리 뉴스레터

이번주 논문에서도 마침 실제 임상 환경에서 AI 기술 활용에 관한 논의들이 눈에 들어오네요. 스마트 병원에서 AI 기술 도입을 위한 핵심 요인에 대한 검토나 AI와 자동화가 관계에 미치는 영향을 검토하고 관계적 윤리(relational ethics)에서 이를 접근해야 한다는 주장은 당장 변화하고 있는 환자-의료인-병원 관계에서 여러 시사점을 던집니다.

News

[HAIE 2025-24] 헬스케어 AI 윤리 뉴스레터

LLM에 기반을 둔 디지털 트윈의 윤리적 생성이나 새로운 시계열 모델, 우울증 예측 AI 도우미의 개발과 같은 시도는 윤리적 기술 구현을 위한 노력을 엿볼 수 있는 좋은 접근들인 것으로 보여요.

News

[HAIE 2025-23] 헬스케어 AI 윤리 뉴스레터

이번주엔 신경종양학에서 AI 활용 등 다학제적 접근에 관한 소식도 눈에 들어오지만, 여러 논문과 기사가 인종-민족-지역과 관련하여 공정성을 어떻게 다룰 것인가에 대한 논의를 다루고 있다는 점이 주목을 끕니다.

News

[HAIE 2025-22] 헬스케어 AI 윤리 뉴스레터

들어가며 안녕하세요? 헬스케어 AI 윤리 뉴스레터로 처음 만나뵙게 된 헬스케어 AI 윤리 연구모임의 김준혁입니다! 헬스케어 AI가 가져올 혁신은 모두를 놀라게 하지만, 동시에 발생할 문제에 대한 염려를 떨치기 어렵지요. 잘 사용하면 정말 좋겠지만, 지금까지 모든 기술이 그랬던 것처럼(특히, 뛰어난 기술은 더) 기술이 미칠 부정적 영향력을 검토하지 않을 수 없습니다. 특히,

헬스케어 AI 윤리 뉴스레터는 어떻게 발행되나요?

tl;dr 헬스케어 AI 윤리 뉴스레터는 AI 기반 내용 구축 + 편집자의 노트 + 추가 의견으로 작성됩니다. AI 윤리에 대한 내용을 AI 기반 내용 수집, 정리한다고? 약간 자기참조 느낌이 드는 문구이긴 하지만, 저희 뉴스레터의 내용은 AI가 거의 다 작성합니다. 이를 위해 사용한 것은 다음과 같습니다. 1. 자동화 도구(automation tool): 헬스케어 AI

News

헬스케어 AI 윤리 연구모임

헬스케어 AI 윤리 연구모임은 헬스케어(보건의료를 넘어 일상 건강 관리, 예측, 지원, 복지 등을 포함한 복합 영역)에서 AI 기술, 알고리듬, 앱 등의 활용에서 발생하는 여러 윤리적 문제를 논의하여 적절한 활용 방안을 검토하고자 모인 상호학제적 연구자의 모임입니다. 현재 월 2회 세미나를 진행하고 있으며, "헬스케어 AI 윤리 뉴스레터"를