빅데이터 정보 글답변

이름필수

비밀번호필수

이메일

홈페이지

옵션 html

제목필수

내용필수 웹에디터 시작

> 
 > 
 > ChatGPT 치료사를 만날 결심?!
> 
> BioINwatch(BioIN+Issue+Watch): 23-33
> 
>  
> 
> ◇ ChatGPT와 같은 AI 기반의 자동화 챗봇 치료사(automated chatbot therapists)가 정신건강 분야에서 활발하게 사용 중. 일부에서는 치료의 자동화를 통해 더 많은 사람들이 치료를 받을 수 있게 되어 치료가 민주화될 수 있다고 주장하는 반면, 한편에서는 자동화 챗봇 치료사는 아직 초기 단계이며 프라이버시, 표준, 안전과 법적 책임 등 해결해야 할 문제들이 많다고 우려
> 
> ▸주요 출처 : Nature, Is the world ready for ChatGPT therapists?, 2023.5.3
> 
>   
> 
> ■ 지난 70년 동안 정신건강 치료 분야에서 자동화 노력이 진행되어 왔으며, 챗봇은 약 60년 동안 그 탐구의 일부로 연구
> 
> ○ 전 세계적으로 100,000명 당 약 4명의 정신과 의사가 있으며, 이 수치는 저소득 및 중간소득 국가에서 훨씬 낮은 것으로 조사
> 
> - 이러한 격차를 인식한 스마트폰 앱 개발자들은 수 천 개의 모바일 정신 건강 앱(mobile mental-health app)을 개발
> 
> ○ 모바일 정신건강 앱인 Koko는 2015년부터 도움이 필요한 사람들을 지원
> 
> - 업무 문제에 대해 문자 메시지를 보내면 앱은 몇 분 안에 감성적인 문자로 긍정적인 대처전략을 제안
> 
> ※ 앱은 응답을 기다리는 사용자가 다른 사람의 곤경에 응답할 수 있도록 초대하기도 하며, 이러한 작업을 돕기 위해 Kokobot은 "나도 겪어봤어요"와 같은 몇 가지 기본적인 문장으로 대화의 시작을 제안하기도 함
> 
> - 지난 10월부터 사용자는 선택을 통해 Kokobot에서 보다 완벽한 응답을 받을 수 있게 되었는데, 대규모 언어 훈련 모델인 GPT-3에 의해 자연스러운 텍스트가 작성
> 
> ○ 최근 모바일 정신건강 앱이 많아지고 있으며, 2021년에 사용할 수 있는 모바일 정신건강 앱은 10,000~20,000개*로 추산
> 
> * American Psychological Association, Mental health apps are gaining traction, 2021.1.1.
> 
> - 그러나 상당수 앱은 사용에 대한 효과를 뒷받침할 증거가 매우 미흡하며, 일부 전문가는 GPT-3와 같은 대규모 언어 모델, 챗봇인 ChatGPT와의 통합은 새로운 우려를 자아낼 수 있다고 의견 제시
> 
> - 프라이버시와 투명성에 대한 문제 또는 평면적인 디지털 치료를 문제로 보고 있으며, 그 외에도 안전과 법적 책임에 대한 우려사항이 존재
> 
> ※ 올해 초 벨기에 남성이 차이 리서치(Chai Research)가 개발한 엘리자(Eliza)라는 AI 챗봇과 기후 문제를 몇 주 동안 대화한 후 자살한 것으로 알려졌으며, 그의 아내는 그가 이 기술을 사용하지 않았더라면 여전히 살아 있었을 것이라고 주장
> 
>  
> 
> < 전 세계가 ChatGPT 치료사를 받아들일 준비가 되었나요? >
> 
> 
> 
> 출처 : Nature, Is the world ready for ChatGPT therapists?, 2023.5.3
> 
>  
> 
> ■ 자동화된 챗봇 치료사(automated chatbot therapists)를 만들려는 여러 시도가 Eliza의 뒤를 따랐으며, 특히 인지행동 치료에 집중
> 
> ○ Eliza 챗봇은 1966년 컴퓨터 과학자 Joseph Weizenbaum이 만든 초기 자연어 처리 프로그램으로, Rogerian 요법이라는 일종의 심리치료에 따라 고안
> 
> - Weizenbaum은 Rogerian 요법이 프로그래밍 하기 쉽고, Eliza를 통해 인간과 기계의 소통이 피상적일 것이라는 그의 가설을 증명할 수 있다고 생각했으나, 놀랍게도 사용자들은 Eliza에 대해 좋은 반응을 보임
> 
> ○ 심리학자들은 치료용 챗봇과 단계별 디지털 프로그램을 통해 인지행동 치료(CBT, cognitive behavioural therapy) 자동화를 시도
> 
> - 하지만 많은 CBT 관련 앱이 '증거 기반(evidence-based)'이라고 하나, 우울증이 있는 사람들에게 판매되고 있는 117개 앱 중 12개(15%)만이 CBT 원칙에 부합하는 근거 기반의 지원을 제공
> 
> ※ 정신건강 앱에 대한 또 다른 분석에서는 특정 과학적 방법을 인용하는 플랫폼 중 1/3이 검증되지 않은 기술에 기반을 둔 사실을 발견하였으며, 또 다른 설문에서는 정신건강 앱의 6.2%만이 효능 데이터를 게시하는 것으로 조사
> 
> - 일부 정신건강 앱은 사용자의 참여를 가이드하는 전문인력이 있으며, 인력에 의해 안내되는 디지털 정신건강 프로그램의 효능은 기존 치료와 비슷하거나 더 나은 것으로 조사
> 
> ○ 대부분의 앱 마켓플레이스는 제품을 테스트하지 않는다고 지적하며, 엄격한 통제 없이는 디지털 플라시보 효과*에 의해 많은 연구가 왜곡될 수 있다고 우려
> 
> * 개인 디바이스 및 기술 전반에 대한 사람들의 호감도가 앱의 효능을 부풀리는 효과
> 
>  
> 
> ■ 기계학습 기반의 AI가 정신건강 자동화 구현을 위해 3가지 기능이 중요
> 
> ○ 첫 번째는 치료 개입을 분석하고 세밀하게 조정하기 위해 AI의 역할로, 사례로서 ieso와 Lyssn은 치료 세션 기록에 자연어 처리 AI를 학습시킴
> 
> - Lyssn은 치료사의 공감 표현부터 CBT 개입의 사용까지 55개의 지표를 기준으로 대화를 분석
> 
> - ieso는 50만 건 이상의 치료 세션을 분석하고 결과를 추적하여 가장 효과적인 개입을 결정
> 
> ○ AI의 두 번째 역할은 진단으로, 미군 재향군인을 위한 REACH VET 프로그램들은 개인 의료기록에서 자해 또는 자살과 같은 문제를 나타낼 수 있는 위험신호를 검색
> 
> - 진단이 정신건강 분야에서 AI를 적용하는 가장 의미 있는 기능일 것이라 예상하고 있지만, 대부분의 초기 플랫폼은 훨씬 더 많은 검증이 필요하다고 지적
> 
> ※ AI를 활용하여 우울증을 조기에 진단할 수 있다는 목표로 약 10년 전 만들어진 앱인 MindStrong은 초기 투자자들의 기대와 전 미국 국립정신건강 연구소(NIMH, National Institute of Mental Health) 소장이였던 저명한 과학자 Tom Insel이 공동설립자였음에도 불구하고 올해 초 파산
> 
> ○ 마지막 기능은 완전한 디지털 치료사로서의 AI 역할
> 
> - 고도화된 AI 개발을 위해서는 더욱 강력한 데이터가 필요하지만 윤리적인 면에서 디지털 치료 플랫폼은 개선의 여지가 많음
> 
>  
> 
> ■ 정신건강 도구에 대한 접근성 측면에서 AI가 가져올 잠재적 이점에도 불구하고, 치료적 적용은 아직 초기 단계이며 윤리적 문제가 많음
> 
> ○ 개인정보 보호는 자동화된 챗봇 치료사 뿐 만 아니라 모든 치료에서 가장 중요한 고려사항이나 관련 문제*가 발생
> 
> * 올해 3월 초 치료 앱 BetterHelp는 민감한 사용자 정보를 광고주와 공유한 혐의로 미국 연방무역위원회(US Federal Trade Commission)가 780만 달러의 벌금을 부과. 3월 말에는 정신건강 스타트업 Cerebral이 310만 명의 데이터를 Google, Meta, TikTok과 같은 타사 플랫폼에 유출했다고 발표
> 
> - 기계학습이 더 많은 정신건강 플랫폼의 기반이 됨에 따라 설계자는 AI를 교육하기 위해 더 많은 민감한 데이터 세트가 필요
> 
> ※ Firefox 웹 브라우저를 개발한 Mozilla 재단에서 분석한 정신건강 앱의 약 70%는 "개인정보 미포함"이라는 딱지가 붙을 만큼 개인정보 보호 정책이 부실
> 
> ○ 전반적으로 디지털 치료 앱 시장에는 명확한 표준이 거의 없음
> 
> - '동반자(companion)’ 또는 '코치(coach)'로 판매되는 모든 정신건강 앱을 기존 치료사에게 적용되는 기준에 맞추는 것은 비현실적이지만, 최근 전 NIMH 원장이었던 Insel은 디지털 정신건강 도구를 감독할 새로운 기관을 요구
> 
> ※ 미국정신의학회(American Psychiatric Association)와 같은 단체에서 제안한 표준과 One Mind PsyberGuide와 같은 비영리단체의 소비자 가이드에 지나치게 의존
> 
> ○ 증거 기반 치료법을 활용하는 앱이 있긴 하지만 더 많은 플랫폼이 AI로 전환함에 따라 CBT가 정신건강 개입을 위한 주요 옵션으로 굳어질 수 있다는 점을 우려
> 
> - 일부에서는 치료의 자동화를 추구하면 더 많은 사람들이 치료를 받을 수 있게 되어 치료가 민주화될 수 있다고 주장하지만, 아직도 수십 년 전에 직면했던 문제가 존재
> 
> ※ 이상적으로는 개인이 가장 정확하고 효과적인 진단과 치료를 받아야 하지만, 최선의 치료방식과 프로그래밍하기 가장 쉬운 방식 사이의 균형을 맞춰야하는 상황
 > 
 >

웹 에디터 끝

링크 #1

링크 #2

파일 #1

파일 #2

자동등록방지

자동등록방지 숫자를 순서대로 입력하세요.

취소