상단여백
HOME 뉴스 자살·자해
[바이오토픽] 자살을 예방하는 인공지능 알고리즘에 관심 집중
양병찬 기자 | 승인 2018.06.03 13:04

페이스북을 비롯한 여러 테크놀로지 업체들이 '자해(自害)와 관련된 온라인 행동'을 탐지하는 방법을 연구하고 있다.

@ Techworm

최근 자살 의향(suicidal thought)의 경고신호를 탐지할 요량으로 소셜미디어에 관심을 보이는 연구자와 테크놀로지 업체들이 부쩍 늘어나고 있다.

그들의 노력은 "'소셜미디어에 포스팅하는 글의 언어 패턴'과 '스마트폰과 상호작용하는 무의식적 방법'이 특정인의 정신의학적 트러블(psychiatric trouble)을 암시할 수 있다"는 새로운 증거에 기반을 두고 있다.

 

업체들은 자살 의향을 암시하는 신호를 자동으로 탐지하는 프로그램을 이제 막 테스트하기 시작하고 있다.

예컨대 캘리포니아 주 팔로알토에 있는 마인드스트롱(Mindstrong)이라는 업체는 한 머신러닝 알고리즘을 개발하여 테스트하고 있는데, 그 알고리즘의 내용은 '사람들이 사용하는 언어와 태도(예: 스마트폰을 스크롤하는 속도)를 우울증 및 기타 정신장애와 연관짓는 것'이다.

마인드스트롱은 내년에 자살 의향과 관련된 행동에 초점을 맞추는 연구를 확대할 예정인데, 이는 궁극적으로 의료인들이 환자의 자해 의도(intention to harm themselves)를 좀 더 신속히 탐지하는 데 도움이 될 것으로 보인다.

그리고 지난 11월 말 페이스북은 "자체적으로 개발한 '자살예방 도구'를 전 세계의 많은 지역으로 확대한다"라고 발표한 바 있다. 테크놀로지 분야의 거인인 애플과 구글도 그와 비슷한 벤처사업을 추진하고 있다.

 

오늘날 미국에서는 자살 시도자들의 수가 증가하여(참고 1), 15~34세 사이의 사람들 중에서 두 번째로 많은 사망원인으로 대두되고 있는 실정이다.

그런데 오하이 주립대학교의 스코티 캐시 박사(사회사업 연구자)에 따르면, 젊은 사람들은 병원을 찾거나 위기상담 서비스(crisis hotline)에 전화를 거는 대신, 소셜미디어에서 도움을 요청하는 경향이 있다.

따라서 일부 정신건강 전문가들은 최근 출시되는 자살예방 도구들이 자살 시도자의 수를 줄일 수 있기를 기대하고 있다.

 

그러나 캐시 박사를 비롯한 전문가들은 - 특히 디지털 개입(digital intervention)의 성능과 효과에 대한 증거가 부족함을 감안하여 - 두 가지 우려를 제기하고 있다.

하나는 개인의 프라이버시 침해이고 다른 하나는 관련 업체들의 투명성 부족이다.

"페이스북 사용자들은 자신의 정보가 어떻게 사용되고 있으며, 그 효과는 어떤지에 대해 알 권리가 있다"라고 위스콘신 대학교의 메건 모레노 박사(소아과학)는 말했다.

"자살예방 도구들의 성능은 어느 정도일까? 그게 생명을 살릴까? 혹시 해를 끼치는 건 아닐까?"

 

♦ 머신 개입(machine intervention)

"자살 위험이 있는 사람을 -적어도 단기적으로- 확인하기는 어려우므로, 자살을 예방하는 것 역시 어렵다"라고 하버드 대학교의 매튜 녹 박사(심리학)는 말한다.

"대부분의 자살 시도자들은 정신건강 전문가들과 이야기할 때 자살의도를 부인한다(참고 2). 그러나 소셜미디어는 그들의 감정에 실시간으로 창구를 제공한다. 따라서 우리는 소셜미디어를 통해 그들에게 가까이 다가갈 수 있다."

 

"머신러닝 알고리즘은 언어의 패턴을 확인함으로써, 소셜미디어에 포스팅된 감정적 글이 '단순한 농담'인지, 아니면 '통상적인 고뇌의 표현'인지, 아니면 '자살의 의도가 담긴 말'인지를 분간할 수 있다.

그러나 연구자나 상담원들은 이 패턴을 놓칠 수 있다"라고 24시간 위기상담 서비스인 ‘크라이시스 텍스트라인(CTL: Crisis Text Line)의 밥 필빈 박사(데이터과학)는 말한다.

 

CTL은 문자메시지를 이용하여 위기상담 서비스를 제공하고 있는데, 필빈과 동료들은 5,400만 개의 문자를 분석하여 "자살을 생각하는 사람들은 '자살'이라는 말을 좀처럼 사용하지 않으며, '이부프로펜(ibuprofen)'이나 '다리(bridge)'가 더 훌륭한 자살 의향의 지표다"라는 결론을 얻었다고 한다.

필빈은 이 결과를 바탕으로 하여, "CTL의 상담사들은 통상적으로 세 개의 문자메시지만 보고 '긴급 구조사(emergency responder)들에게 임박한 위협(imminent threat)을 통보할 것인지' 여부를 결정할 수 있다"라고 주장한다.

 

"한 사람의 디바이스에서 수동적인 데이터(passive data)를 수집하면, 그들에게 설문지를 작성하게 하는 것보다 더 많은 정보를 얻을 수 있다"라고 마인드스트롱의 토머스 인셀 사장(참고 3)은 말한다.

마인드스트롱에서 개발한 앱을 환자의 스마트폰에 설치하면, 그 앱은 백그라운드에서 작동하며 데이터를 수집한다.

그리하여 환자의 전형적인 디지털 행동에 대한 프로파일이 완성되면, 자살이 우려되는 변화를 탐지하는 것이 가능하게 된다.

"우리는 보건의료업체와 제휴하여, 앱이 모종의 위험을 탐지했을 때 환자와 의료인을 연결하도록 하고 있다"라고 인셀 사장은 말한다.

"당사자에게 '위기상황에 직면했을 때 앱을 열라'고 요구하는 것은 실전에서 별로 유용하지 않다. 우리가 개발한 앱은 백그라운드에서 작동하며, 위기상황을 스스로 진단한다"라고 그는 강조한다.

 

♦ 페이스북이 잘 해낼 수 있을까?

그러나 좀 더 중요한 문제는 '언제, 어떻게 개입할 것인가?'라고 할 수 있다.

"위양성의 가능성이 매우 높으므로, 자살위험을 탐지하려는 의사나 테크놀로지 업체들은 당사자를 돕기 전에 확실성의 정도'를 결정해야 한다"라고 녹 박사는 말한다.

 

모레노 박사에 의하면, 위기상담 서비스와 같은 자원들이 생명을 살린다는 증거도 부족하며, 섣부른 개입이 사람들을 좀 더 취약하게 만들어 역효과를 낼 수도 있다고 한다.

예컨대 그녀와 동료들이 연구한 바에 따르면, "소셜미디어 유저들은 간혹 위험한 친구(가능한 자살 위협이 담긴 글을 포스팅하는 사람)를 차단하기 때문에, 정작 친구들이 위험 수준에 이르렀을 때 자살 의향을 드러내지 않을 가능성이 높게 된다"라고 한다(참고 4).

 

페이스북이 새로 내놓은 자살예방 프로그램은 유저의 보고와 독자적인 알고리즘(포스팅을 스캔하여 위험신호를 찾아내는 알고리즘)에 크게 의존하며, 일단 위험신호를 탐지한 후에는 유저와 직접 접촉하거나 인간 중재자(human moderator)에게 통보하는 방식을 취한다.

위험을 통보받은 중재자는 유저의 네트워크에 있는 사람들에게 주의를 환기시키고, CTL과 같은 자원의 링크를 제공하거나 응급구조사에게 통보한다.

 

그러나 페이스북은 알고리즘의 내용이나 중재자들의 활동을 구체적으로 설명하지 않으며, '알고리즘을 검증하거나 개입의 효율성을 평가하는 데 유저들의 의견을 반영할 것인지'에 대해서도 아무런 언급이 없다.

페이스북의 대변인은 한 성명서에서, "우리의 자살예방 도구는 전문가들과 공동으로 개발되었으며, 유저들은 서비스에서 탈퇴할 수 없다"라고 밝혔다.

 

일부 연구자들은 페이스북의 폐쇄적인 접근방법을 우려하고 있다.

"그들은 근거에 기반하여 모든 의사결정을 내릴 책임이 있다"라고 캐시 박사는 말한다.

그러나 페이스북이 외부 전문가들에게 정보를 별로 제공하지 않고 있으니, 현재로서는 그 타당성과 유효성을 객관적으로 판단할 방법이 없다.

 

그럼에도 불구하고, 인셀은 페이스북의 노력을 높이 평가한다.

"우리는 페이스북의 자살예방 도구가 CTL을 보완할 수 있으리라 기대한다. CTL은 완벽하지 않다."

 

 

※ 참고문헌

1. http://www.nature.com/news/suicide-watch-1.14691

2. Busch, K. A. et al. J. Clin. Psychiatry 64, 14–19 (2003); http://dx.doi.org/10.4088%2FJCP.v64n0105

3. https://www.nature.com/news/former-us-mental-health-chief-leaves-google-for-start-up-1.21976

4. Gritton, J. et al. Am. Indian Alsk. Native Ment. Health Res. 24, 63; http://dx.doi.org/10.5820%2Faian.2403.2017.63

※ 출처: Nature https://www.nature.com/articles/d41586-017-08307-0

 

글쓴이_양병찬

서울대학교 경영학과와 동 대학원을 졸업한 후 기업에서 근무하다 진로를 바꿔 중앙대 학교에서 약학을 공부했다. 약사로 일하며 틈틈이 의약학과 생명과학 분야의 글을 번역했다. 포항공과대학교 생물학연구정보센터BRIC의 바이오통신원으로, <네이처>와 <사이언스>등에 실리는 의학 및 생명과학 기사를 실시간으로 번역, 소개하고 있다. 그의 페이스북에 가면 매일 아침 최신 과학기사를 접할 수 있다.

https://www.facebook.com/OccucySesamelStreet

 

양병찬 기자  info.psynews1@gmail.com

<저작권자 © 정신의학신문, 무단 전재 및 재배포 금지>

icon인기기사
기사 댓글 0
전체보기
첫번째 댓글을 남겨주세요.
여백
여백
신문사소개기사제보광고문의불편신고개인정보취급방침청소년보호정책인터넷신문윤리강령이메일무단수집거부
(주)정신건강연구소  |  정신의학신문  |  등록번호 : 서울, 아03874  |  등록일자 : 2015년 8월 25일  |  발행·편집인: 박소연
서울 종로구 옥인동 자하문로 17길 보광빌딩 12-10  |  대표전화 : 070-7557-9104  |  팩스 : 02-320-6077  |  청소년보호책임자 : 정선우
Copyright © 2018 정신의학신문-의사들이 직접 쓰는 정신 & 건강 뉴스. All rights reserved.
Back to Top Back to Bottom