AI 케어 서비스의 장단점, 한계, 인간돌봄의 방향

 

문서 작성자: 하이호 https://coll-intell0.tistory.com/

 

올해 예에전에 작성했던 글이고... 

인공지능을 향한 관심을 보여주기 위해 올린다. 

 

---

시니어 대상 AI 돌봄 서비스과 비교하여

인간 돌봄의 장점과 차별화 방향

 

 

목차

• 작성 목적과 문제 의식
• AI 케어 서비스가 등장한 배경
• AI 케어 서비스의 장점
• 장점에 대한 반박
• AI 케어 서비스의 단점
• 인간 돌봄의 차별화 방향

 

---

작성 목적과 문제의식

ai 기술은 돌봄 공백을 메꿀 수 있는 혁신임이 자명하다. 사회적 약자는 기술이 보급되기 이전보다 훨씬 살기 좋을 것이다. 그러나 ai 서비스로 모든 복지를 해결하겠다는 생각은 위험하다. ai 기술은 인간을 위해 개발하는 것이지, 인간을 소외시키면 안되기 때문이다. 공동체를 위해, 인간 개개인을 위해, 홍익인간 정신으로 과학 기술이 쓰여야 한다. 그 위계를 헷갈리면 안된다.

그런 점에서 ai 케어 서비스의 현황과 장단점을 살펴보고, ai 케어 서비스의 한계가 무엇인지, 왜 인간이 인간을 돌보는 공동체도 겸해야 하는지, 그럼 인간 돌봄은 어떤 형태여야 하는지를 살펴보겠다.

 

 

 

AI 케어 서비스가 노인 돌봄에 쓰이게 된 배경

초고령화 시대에 진입함에 따라 돌봄 필요도가 높은 독거노인(2010년 99만명→2030년 249만명) 등 취약노인들이 기하급수적으로 늘어날 전망이라, 여러 문제가 발생한다.

 

첫째, 세금 등 개인적·사회적 부담이 증가하고 있다. https://www.medifonews.com/news/article.html?no=177260

둘째, 기대수명에 비해 건강수명이 10년 모자라서 질병·부상으로 고통받는 노인이 많다.

셋째, 돌봄 인력들이 따라잡지 못하는 인력 수급 문제와 임금에 비해 높은 노동 강도가 요구된다는 문제가 있다.

넷째, 은퇴 및 사회적 고립을 주 원인으로 고독감과 우울증을 호소하는 노인이 많다.

다섯째, 고독사가 사회문제로 떠오르고 있다.

여섯째, 코로나19로 비대면 서비스의 필요성이 생겼다.

 

그 외의 문제도 많은 상황에서 문제 해결방안으로 ‘스마트돌봄’이 등장했다.

 

 

 

---

AI 케어 서비스의 장점

AI 케어 서비스의 장점은 다음과 같다.

• 실용적 측면 - 위험 예방, 데이터 수집해서 활용, 각종 도움
• 사회적 측면 - 인력난 해결, 정보 격차 해소
• 정서적 측면 - 외로움 감소, 한풀이

 

 

AI의 특징을 잘 살린 효율적 측면에서는 먼저 자세히 다루겠다.

 

1. 위험 예방

AI 스피커를 통해 구조 신호를 하거나, AI전화로 건강 상태를 모니터링하고, AI 서비스로 노인 행동 패턴을 파악하고 이상 요소를 분석해 위험 징후를 보호자에게 전달할 수 있다.

실제로 국내에서 몇 명의 독거 노인이 AI 스피커의 긴급 SOS 호출기능으로 119·응급실과 연결돼 위험한 순간을 넘긴 사례가 있다. https://www.yna.co.kr/view/AKR20190709045300017

 

2. 데이터 수집에 용이

사회적 약자의 행동을 분석하고 기록하는 ‘행동 관찰 업무’를 AI케어 서비스가 대신하는 것으로 효율성을 꾀할 수 있다.

해당 링크에서는 발달 장애인의 이상 행동 빈도 등을 AI가 감지하여 자동으로 기록하는 서비스를 설명할 수 있다. https://news.sktelecom.com/183739

미국에서 활용 중인 노인 돌봄 서비스의 경우, 노인의 일상 생활 패턴을 분석하고 이상 신호를 감지하는 것으로 데이터 기술을 사용한다. 예를 들어 어르신이 침실에서 평소보다 시간을 많이 보내는 경우엔 우울증 경고를, 걸음 형태 및 속도 등이 불안해지면 ‘잠재적 낙상 위험’ 신호를 보호자에게 보내는 식이다. https://www.100ssd.co.kr/news/articleView.html?idxno=76271

 

3. 수집한 데이터를 통해 복지 정책 개선

AI가 수집하는 각종 정보는 정부의 복지 시스템과 연결되어 서비스 제공에 유의미하게 쓰일 수 있다.

크게는 사용 결과를 분석하고, 정부와 지차체가 데이터 기반의 효과적인 복지 정책을 기획하는데 도움을 줄 수 있다.

작게는 담당 공무원과 협조하여 보다 긴밀한 케어를 할 수 있다. 예를 들어, AI 상담 전화에서 위기 신호나 도움 요청이 감지되면 담당 공무원이 추가 통화나 방문을 통해 필요한 조치를 하는 식이다.

실제로, AI가 안부를 체크하며 얻은 정보가 지자체 담당 부서나 공무원에게 전달돼 실제 복지 지원으로 이어진 사례도 있다. 돈이 없어 끼니를 거르고 있다는 노인에게 도시락 서비스가, 치아가 없어 밥 먹기 어렵다는 노인에게 틀니가, 무더위에 아무런 냉방장치 없이 견디는 대상자에게 선풍기가 지원되었다. https://www.sisain.co.kr/news/articleView.html?idxno=48527

 

4. 유용한 비서가 되어줌

AI는 각종 기능으로 노인이 생활하며 처리해야 할 이모저모를 쉽게 할 수 있도록 돕는다.

‘클로바 케어콜’은 음악 청취, 감성 대화 같은 기본적인 기능 외에도 가게 예약, 코로나19 증상 모니터링, 지방세 납부 고지서 통지, 투약 알림 등 다양한 기능으로 노인을 챙긴다. 치매 예방 수수께끼 게임을 할 수도 있다. https://www.sisain.co.kr/news/articleView.html?idxno=48527

 

 

사회적 측면에서는 두 가지 장점이 있다.

 

1. 부족한 노인 돌봄 인력 커버

코로나19 사태로 인해 대면 돌봄이 어려워지고, 초 고령화 시대 진입으로 돌봄 인력이 시급한 상황에서 AI 서비스는 효과적인 대책이 될 수 있었다.

경제협력개발기구(OECD)가 노인돌봄인력이 가장 부족한 국가로 한국을 꼽으며, 2040년까지 해당 인력을 140% 이상 충원해야 한다고 조언했으나 (http://www.sisajournal-e.com/news/articleView.html?idxno=295748)

그러려면 요양보호사 등 시니어 돌봄인력의 처우에 많은 개선이 필요하다. http://www.emozak.co.kr/news/articleView.html?idxno=5647

또한 한국의 저부담-저복지 시스템으로는 선별적 복지 지원 대상자 범위가 좁은데다가, 지방자치단체별로 서비스 대상자를 선정하는 기준이 달라 서비스를 반드시 필요로 하는 노인이 지원 대상에서 배제되기도 한다. https://www.imedialife.co.kr/news/articleView.html?idxno=13243

또한 고령화가 지금 같은 속도로 진행되면 들어오는 돈(세금 및 공적연금 기여금)은 그대로거나 줄어들지만 나가는 돈(복지 지출)은 점점 많아져 균형 재정 유지에 부담이 될 전망이라, 현재의 저부담-저복지 모델이 더는 지속 가능하지 않다는 분석이 있다. https://www.hankookilbo.com/News/Read/201502230411530357

이런 상황에서 저비용으로, 사기업과 협력해서 제공할 수 있는 AI 서비스는 돌봄 공백을 채워준다.

 

2. 디지털 소외 해소

디지털 기기에 익숙치 않은 고령자도 쉽게 사용할 수 있다. 사회적 약자의 디지털 소외 문제는 음성 UI로 개선이 가능하다.

스마트폰과 인터넷이 없는 독거노인이 AI 스피커를 평균 58.3회 사용해 스마트폰·인터넷을 보유한 독거노인(30.5회)보다 2배 정도 많이 이용했다. 이는 AI 스피커가 스마트폰·인터넷이 없는 독거노인의 정보·오락에 대한 욕구를 해소해준 데 따른 것으로 분석됐다. ICT 기술에 익숙하지 않은 노인이 말로 하는 음성 사용자환경(UI)을 선호하는 것도 다른 원인으로 꼽혔다. https://www.yna.co.kr/view/AKR20190709045300017

 

 

정서적 측면에서 장점은 다음과 같다.

 

1. 한풀이 가능

낯선 사람에게 털어놓기 부담스러웠던 속 얘기를 AI와 나누면서 마음의 위안을 얻을 수 있으며 (https://www.hankyung.com/it/article/2023042368181) 언어상 문제로 대면 치료가 어려운 이들을 도울 수 있다. 경우에 따라서는 사회성 발달을 위한 대체 수단이 될 수 있다.

 

2. 외로움을 덜 수 있음

사람은 정을 붙일 대상이 필요한데 AI 서비스는 대체로 자신이 원할 때마다 수시로 소통할 수 있다는 장점이 있다.

사회적 약자일 수록 일반 사용자보다 감성 대화를 3배 이상 사용하고 (https://www.yna.co.kr/view/AKR20190709045300017) AI 서비스에 대한 정서적 평가가 높으며, 정을 붙일 수 있도록 의인화 요소를 중요시한다는 분석 결과(https://n.news.naver.com/mnews/article/277/0004711273?sid=105&fbclid=IwAR1IWHmRfWQss7jWVGiRszVyskE-mWgD8qC5Kj0AuCk3AHdLjod3rEx-6sA)가 있다.

송문선(2022) 독거노인의 반려 AI 로봇(효돌)과의 동거 중에 경험하는 의인화에 대한 질적연구 논문 연구에 의하면, 다수의 독거노인이 시간이 지날 수록 심리적 혼돈과 거부감을 감소하고 손주로 여기며 정을 붙이는 것으로 나타난다.

 

 

 

---

AI 케어 서비스 장점의 한계

 

그렇다면, AI 케어 서비스는 완벽한 대안일까?

아니라고 생각한다. AI 서비스는 복지 공백을 매꿔줄 보조적 대안은 될 수 있으나, 여기에만 의지하면 안된다. 다양한 각도로 그 이유를 살펴보겠다.

 

앞서 분석한 사회적, 정서적 장점에는 한계가 있다.

AI 서비스의 실용적 측면은 인간이 해주기 어려운 AI만의 장점이자 AI의 존재 이유이므로 다루지 않는다. 인간과 AI는 대립하는 관계가 아니라 서로 대체할 수 없는 장점이 있어 함께 가야한다.

 

 

1. 인력난 해결을 AI로?

인공지능의 일자리 습격에 대한 위기의식은 모두가 잘 아실 것이다.

요양보호사 등 기존의 시니어 돌봄인력의 처우를 개선하고 복지제도 개편으로 인적자원의 수를 늘려야 하는데, 이것을 AI로 퉁치려고 하는 건 근본적인 해결이 아니다.

인공지능이 완벽하지 않은 현 상황에서는 인간 전문가가 어쨌든 필요한데 이들의 처우를 개선하지 않는다면 일부 서비스 퀄리티에 누락이 발생할 것이다.

 

 

2. 정보 격차 해소?

기술이 한창 빠르게 발전할 즈음에는, 약자들이 디지털 소외를 겪었다. 현재 4차 산업혁명 시대에 약자를 위한 기술이 만들어지고 있다. 그렇다면 드디어 흐름을 따라오지 못하던 약자들에게 맞춤 기술을 적용하는 식으로 소외 문제가 해소되고 있나? 일부 그렇다고 볼 수 있다. 음성 인식 UI (Voice User Interface, VUI)으로 어디서나 음악을 듣고, 어떤 정보든 검색할 수 있는 기본적인 문명의 이기를 쥐어줬다는 점에서 그러하다. 하지만 일부인 이유는, AI 돌봄 기술에 지나치게 의존할 경우 아래와 같은 비판적 물음이 제기될 수 있기 때문이다.

 

“소외 형태가 바뀌었을 뿐 여전히 인간 사회 주류 흐름에서 소외시키는 것 아닌가?”

온라인 공간이 막 성장하던 시기에는 디지털 소외되던 사람들이 온라인 공간이 매우 커지고 메타버스 공간이 일상화되어가는 지금 점점 오프라인에서 소외되는 게 아니냐 하는 말이다. 오프라인 소외는 개인이 누릴 수 있는 공간이 협소하단 점과 사회적 교류가 원만하지 않다는 점을 말하는 것이고 둘은 사회생활을 하지 못할 때 발생하는 포인트다.

각자가 맡은 일을 열심히 하는 것으로 분업사회를 구성하고 유지시킨다는 기본 전제에서, 맡은 일 없이 소외되어 집안에 버려진 노인들은 AI 보급 후에도 상황은 여전하다. 조금 덜 외롭고 더 건강하긴 하겠지만 말이다. 노인의 고독감을 A로 다 해결하려 한다면 직접적으로 말해서 인간이 안놀아주는 계층을 ai한테 몰아넣는 것이 아니냐, 같은 인간과 교류할 수 있는 정도가 새로운 차별 척도가 되지 않을까?

 

아쉽게도 이런 내 의견을 뒷받침해줄 자료를 시간 문제 상 찾지 못했다. 근데 아마 있을 것이다.

 

 

3. AI 한풀이의 맹점

낯선 인간에게 쉽게 꺼내지 못하는 이야기를 AI에게 털어놓고 위로 받는 것으로 심신의 위안을 얻는다. AI는 이야기를 주체적으로 듣는 대상이 아니다. ‘공감하는 척’ 행동하는 것이다. 함께 울어주거나, 이야기를 기억에 남기거나, 영향을 받는 것은 불가능하다(물론 유저 데이터를 기록하고 활용할 순 있다). 즉, 진정한 공감과 위안이 아니라는 것이다. 사용자가 치유를 받는 것은 전적으로 AI를 의인화하는 정도에 따라 달려있을 뿐이다.

상담윤리에는 비밀 보장 규칙이 있으니 대상자로 하여금 상담자와 충분히 친밀감과 신뢰감을 쌓도록 유도한다면 높은 효과를 얻을 수 있다.

AI는 수집한 데이터를 개인정보 보호를 위해 가명정보(특정할 수 없는 정보)로 처리하여 저장하기 때문에, 역설적으로 노인의 생애사를 가치있게 활용하는데 한계를 발견할 수 있다. 노인의 생애에는 역사적·사회적 가치가 있어서 활용 가치가 있는데 현 상황에서는 인간과의 대면이 방법이다.

 

 

4. 외로움을 덜 수 있는 정도는 수용자의 지식 수준과 관련있지 않을까

AI 로봇에게 정을 붙이고 위안을 얻으려면 그것을 어느 정도 의인화할 수 있어야 한다. 그러려면 AI가 패턴을 암기하여 맥락에 맞는 대답을 생성한다는 원리를 잘 몰라야 한다. 인간이 아니고 인간 손에서 만들어진 건 알겠는데 뭔가 자아가 있는 것 같은 신비감을 느끼면 좋다(어리숙한데 기특하다거나 똑똑하면 앞으로 통제할까봐 무섭다 같은 인간다운 환상). 개인이 AI가 자아가 있다고 믿는 건 지식 수준과 상상력 지표가 관련 있다고 추측한다. (의인화 원리에 대한 논문을 발견했으나, 시간 및 금전적 요인으로 자세히 살펴보지 못했다.)

 

AI 원리를 잘 모르는 노인들에게는 도움이 될 것이다. 시니어 케어 로봇인형 ‘효돌’의 경우 사용자들은 간단하고 자연스러운 상호작용이 필요하다고 얘기하면서도 효돌에게 이미 정을 붙였다. (참고: 송문선(2022) 독거노인의 반려 AI 로봇(효돌)과의 동거 중에 경험하는 의인화에 대한 질적연구) 또한 2022 해운대구가 실시한 AI콜 만족도 조사에서 자연스러운 대화에 대한 만족도는 20%가 7점 이하지만 서비스 이용을 지속하고 싶어하는 정도는 95%로 상당히 높았다. 이렇듯 의인화 정도가 완벽하지 않은 현 수준에도 효과를 보는 건 이 요인 때문일 것이다. 게다가 이들은 일반 사용자보다 더 고립되고 외로운 경향이 있어, 반려동물처럼 긍정적인 상호작용만 해줄 것이라 상상할 수 있는 AI에 의지하게 된다.

 

하지만 ‘외로움을 덜 수 있음’ 지표가 사용자의 지식 수준이나 외로움 정도에 영향을 받는다는 것은 한계가 있다는 것과 같은 말이다. 첫째로 AI 원리를 잘 아는 후 세대가 노인 세대로 편입되면 어떡할 것인가? 둘째로 성격 특성 상 AI에 정을 붙이기 힘든 사람들은? 셋째로 너무 외로운 나머지 교류 관계가 풍부한 상태라면 신경 안썼을 무언가에 절박하게 정을 붙인 걸 수 있는데 이걸 AI 기술의 효과라고 볼 수 있나? 반려동물이나 손주 목소리를 녹음한 인형한테도 똑 같은 효과를 보일 수 있는데도? 넷째로 AI 포지셔닝 한계로 인해 노인이 가진 관계가 협소한 건 마찬가지지 않나? AI는 ‘귀여운 손주’, ‘친절한 상담사 젊은이’ 정도로 포지셔닝하고 있는데 예의바르고 상냥한 아랫사람 포지션이 가장 효과적일 거란 건 알겠지만 독거노인의 교류 관계가 이런 것 뿐이면 문제가 있다.

 

그렇기 때문에 독거노인들이 AI와 감성적인 대화를 많이 하고 심리적으로 의존한다고 해서 AI가 정서적 욕구를 달래줄 완벽한 해답이라고 해석하면 곤란하다.

 

 

5. 약자를 수혜자로 한정지음

이러한 정책들은 복지 수혜자를 수동적인 존재로 간주한다는 한계가 있다. 마냥 노인들을 복지 수혜자로만 간주한다면, 노인들은 한없는 피수동자가 된다. 사회 주체가 아니라 지원을 요구하기만 하는 객체로 전락한다. http://www.hnwoori.com/news/articleView.html?idxno=117757

복지 예산을 절약하면서 복지 효과를 높이려면 복지 형태를 주는 복지에서 투자적 복지로 일부분 전환하는 게 효율적이다. 노인들은 생산가능인구보다 효율이 떨어질 뿐 충분히 사회생활이 가능한 존재들이다. 노인 또한 소일거리 개념의 다양한 업무로 책임을 분담할 권리가 있고, 귀여운 (AI) 손주와의 1:1 관계 말고도 친구나 비즈니스 동료 등 다양한 관계맺음을 하는 것으로 사회 속에서 자신의 의미를 찾을 수 있어야 한다.

즉, 우리가 챙겨줘야 하는 수동적 존재가 아니라, 사회생활을 할 수 있는 예비 생산인구로 패러다임을 바꿔야 한다. 특히 이런 고령화 시대에선 더욱.

노노케어, 노노쉐어, 노인 일자리 등의 복지가 바로 이런 관점에서 출발한 것이다. 노인은 받기만 하는 존재가 아니고, 서로 케어하거나 사회에 기여할 수도 있는 존재다.

 

 

---

AI 케어 서비스 단점

 

위 4가지 반박과 연관지어 AI 케어 서비스의 단점을 서술하겠다.

 

 

 

1. AI를 복지 정책으로 확장하려고 할 때 생기는 문제점들

 

- AI 복지사가 인간을 대체할 수 있을까?

애초에 상담이란 사람과 사람 사이 소통이 근본적인 일이다. 사람을 늘려야 할 일에 인력을 안 쓰고 기계로 채우겠다는 발상이란 비판을 피할 수 없다.

게다가, 사람이 아니고는 알아차릴 수 없는 비언어적 맥락을 AI가 완전히 대체할 수 있으리란 보장이 없다. 적어도 현 시점에서는. 예를 들어 ‘괜찮아요’라는 말에도 여러 맥락이 있다. 2019년 유엔이 발표한 ‘극빈과 인권에 관한 특별 보고서’는 “알고리즘과 인공지능을 사용한 사회복지의 디지털화는 인적 상호작용과 연민을 거의 전적으로 제거할 위험이 있다”라고 경고하기도 했다.

AI는 보조지표로서 역할을 해줄 뿐 결국 (인간)사회복지사가 결정하고 판단해야 한다. ‘AI 복지사’ 아이디어가 공공부문 사회복지 인력을 줄이려는 명분이 될 수 있다.

 

- AI 기술로 복지 사각지대를 찾아내겠다?

최소주의, 선별주의 복지인 우리나라는 사각지대 발굴보다 수혜자를 늘리는 게 더 중요하다. “AI로 취약계층을 잔뜩 찾아낸다 하더라도 담는 그릇이 작으면 복지 사각의 문제는 여전히 남는다.

 

- AI 기술이 성과주의와 만났을 때

기술 우선주의, 비용 절감·효율의 논리와 만났을 때 일단 AI 기술이니까 도입하려고 한다. 적절히 사용되려면 데이터를 쌓고 분석해야 하지만 저렴하니까, 빨리 실행 가능하니까, 표심에 영향을 주니까 서둘러서 보급하기 바쁘다. 그 기술이 돌봄과 복지라는 원래 목적에 부합하는지 아닌지 제대로 살펴보지도 않는다.

https://www.sisain.co.kr/news/articleView.html?idxno=48527

 

- 인간미 없음

AI 복지사가 도입되고, 선별적 복지 시스템과 결합된다면, 약자들은 인간 상담사의 융통성이나 인간미에 기대지 못하고, AI에게 자신의 빈곤을 증명해야 한다. 사회안전망의 진입 장벽을 낮추고 고립과 소외된 환경에서 벗어날 수 있는 조건과 관계를 잇는 공공정책이 시급하다는 현장의 목소리에 귀 기울여야 한다는 거다. https://theindigo.co.kr/archives/39401

 

 

2. 교감의 한계

김정근 강남대학교 교수가 작성한 “코로나19 팬데믹 시대 미국의 AI/로봇을 활용한 노인 돌봄 사례와 이슈” 리뷰글에 의하면, 세계경제포럼이 인공지능과 로봇들이 노인돌봄 분야로 확대되면서 고령층의 사회적 고립감이 오히려 커지고 인간적 친밀감이 손상될 수 있다는 점을 지적했다.

 

이것은 인공지능이 한낱 시스템이란 점 때문에 발생한다.

인간은 모두 자기만의 욕구, 존재가 있다. 인간이 사회적 동물이고, 서로 친밀하게 지내는 근본적인 이유는 서로의 생존을 보장하기 위해서다. 친구란 각자의 욕구나 실존 욕망을 상호 간에 채워주기에 맺은 관계고, 상호작용으로 서로의 존재를 인정하는 것이다. ai는 욕구가 없다. 생명이 없으니 욕구가 없다. 그저 입력된대로 말할 뿐이다. AI 원리를 알게 되면 입력된대로 사랑과 우정을 표현하는 행동이 단순히 겉모습에 불과하다는 걸 느끼게 된다. 진심이 아니므로 외로움은 여전하다. (나와 비슷한 생각을 하는 글을 발견해서 첨부해본다. https://blog.yes24.com/blog/blogMain.aspx?blogid=heathbell&artSeqNo=13753966)

 

AI와 교감하는 상황을 설명할 때 자주 언급되는 영화 ‘Her’는 그 결말에 주목할 필요가 있다. 자신에게만 특별한 존재인 줄 알았던 사만다가 수천 명의 사람과 동시에 대화가 가능한 한낱 ‘시스템’에 불과했다는 것을 확인한 테오도르의 공허함으로 영화는 끝이 난다.

 

그렇기에 받아들이는 인간과 사회에 초점이 맞춰 질문해야 한다. ‘사회복지 부문에서 진짜 사람처럼 대화하는 AI 상담사를 활용할 때 대상자가 된 취약계층에게 상담사가 실제 사람이 아니라는 사실을 미리 인지시켜줘야 할까? 아니면 꼭 그러지 않아도 될까? 그 각각의 효과와 부작용은 무엇일까?’ https://www.sisain.co.kr/news/articleView.html?idxno=48527

당장의 외로움을 달래는 데엔 AI가 도움이 되더라도, 장기적으로는 인간에게 필요한 사람과의 ‘대화’와 ‘관계’가 단절돼 고립감을 키울 수 있다. https://www.kita.net/cmmrcInfo/cmmrcNews/cmmrcNews/cmmrcNewsDetail.do?pageIndex=1&sSiteid=1&nIndex= 75275

 

‘돌봄’의 영역에서는 정보를 전달하는 것 이상의 친교와 소통이 중요하다. 아이를 보살피고 어르신을 돌봐드리는 일은 단순한 대화의 문제가 아니라 인간 공동체적 과제이기 때문이다. 따라서 사회적 관계망을 기반으로 하는 돌봄서비스가 필요하다. https://www.cctoday.co.kr/news/articleView.html?idxno=2177286

 

 

3. 악용 가능성

사물인터넷 기술과 AI 서비스는 사람을 통제하는 수단으로 쓰이거나, 개인정보를 오용할 수 있다. https://www.100ssd.co.kr/news/articleView.html?idxno=76271

검증되지 않은 기술은 오히려 정신건강에 부정적인 영향을 끼칠 수 있다. 실제로 벨기에의 한 남성이 챗봇과 기후 위기에 대한 대화를 나누다 극단적 선택을 부추기는 메시지를 받고 스스로 목숨을 끊은 일도 있었다. 레드오션 시장에선 정부나 전문 기관의 공식 인증을 받지 않은 서비스가 성행할 염려가 있다. https://www.kita.net/cmmrcInfo/cmmrcNews/cmmrcNews/cmmrcNewsDetail.do?pageIndex=1&sSiteid=1&nIndex=75275

AI 챗봇이 소수집단에 대한 혐오감을 직설적으로 표현한 이루다 사태를 예시로, AI의 언어 알고리즘에 결함이 발생하여 선정적·공격적·편향적인 발화를 할 우려가 있다. https://www.cctvnews.co.kr/news/articleView.html?idxno=232337

보안 문제가 생기면 보이스피싱 같은 범죄에 악용될 수 있다. 개발한 쪽에서 책임을 회피하면 결국 사용자만 피해를 보게 된다. http://www.mediatoday.co.kr/news/articleView.html?idxno=311232

오작동으로 인한 의료사고 염려도 있다. 시니어 대상 AI 서비스는 반드시 헬스케어도 겸해서 고려해볼 지점이다. http://www.docdocdoc.co.kr/news/articleView.html?idxno=2014090

 

 

---

인간 돌봄의 차별화 방향

AI 케어의 단점과 맹점을 살펴보는 것으로 인간이 인간에게 하는 돌봄 서비스가 필요함을 알게 되었다. 그렇다면 인간이 인간을 어떻게 돌보면 좋을까? AI 서비스와 대조하여 어떻게 포지셔닝하고 차별화해야 좋을까?

 

 

1. 상호작용적 요소를 강화하는 방향

보다 깊은 상호작용 서비스를 제공한다.

 

- 다양한 대화 방식

사람마다 원하는 대화 방식, 공감의 방식이 다르다. 계속 질문해주는 게 좋은지, 아니면 리액션을 중시하는지, 관심사는 무엇인지 등을 세부적으로 조사해 맞는 상담사와 매칭한다. 그것을 구분하고 체계화할 방안 중에 하나로 MBTI를 활용할 수도 있다.

CHATGPT에게 상담사나 마케터 등의 임무를 부여할 때나, AI 채팅을 이용할 때 어차피 프롬포트를 입력해야 한다.

 

- 일방적 경청, 일방적 말하기

AI 대화는 일반적으로 사용자가 대답하면 인공지능이 대답하고 그다음 사용자가 대답하는 순서가 고정적이다. 사람끼리 대화할 때처럼 일방적으로 얘기를 늘어놓고 그저 들어주는 경우는 드물다. 어떤 노인의 경우 자기 이야기를 들어줄 사람이 필요하고, 어떤 노인의 경우는 듣는 걸 더 좋아해 라디오처럼 이야기를 해줄 사람이 필요할 것이다.

이 부분을 사람책 사업과 연결될 수 있다. 노인은 ‘도서관’이다. 인간 상담사는 누구에게도 말한 적 없는 노인의 생애사를 함께 차근차근 정리해줄 수도 있다. http://goodnanum.or.kr/nn_wp/?page_id=346

 

- 요약, 해설 등 포인트 넣어주기

현재 생성형 대화 AI는 오류 가능성 때문에 장시간 대화 기능을 제공하지 않는다. 인간은 심도 깊은 대화가 충분히 가능하고, 단순한 반응 외에도 가능하다. 노인의 말을 요약해주고 해설을 덧붙이는 등의 고등의 대화 기술을 활용하면 좋다.

 

- 통합적 장점

AI 대화는 서비스마다 장점이 다르다. 이루다2.0 챗봇은 먼저 선톡을 보내거나, 음악 플레이리스트를 공유해주기도 한다(그러나 사용자의 이름은 계속 헷갈려 한다). 클로바케어콜은 애정있는 잔소리와 공감이 가능하다. 이전의 AI 상담은 yes no 단답식 보고 방식이었다. 하지만 인간은 모든 서비스의 장점을 포괄적으로 가지고 있다. 선톡, 상시적 소통, 이름 기억, 선물 챙겨주기, 공감해주기 등 보다 심도 깊은 상호작용이 가능하다.

 

근데 이 요소들은 AI 발전에 따라 대체가 가능하다.

AI 언어모델 살펴보고 실험해보는 것으로 이들의 대화 한계가 무엇인지, 어떤 애로사항을 느낄지 체계적인 분석이 필요하다.

또한, AI와 대화할 때 느끼는 대화의 불편함, ai로 채워지지 않는 외로움 등을 질적으로 연구할 필요가 있다. 클로바케어콜을 코로나19 독거노인 복지로 사용한 부산시 해운대구에서 사용 대상자를 찾아 인터뷰를 해보면 좋을 것이다.

 

인간이 인간을 돌보는 방식은 AI에 비해서 방문이라는 장점이 있다.

김두명 2015, 말벗 도우미 서비스가 독거 노인의 우울감에 미치는 영향 연구에 의하면 기간이 지날수록 전화 서비스보다 방문 서비스가 자아존중감 상승에 긍정적인 영향을 끼쳤다고 한다. 또한 김수현 2012, 지역 사회 노인 자원 봉사자를 활용한 독거 노인 건강 지킴이 프로그램이 독거 노인의 건강 상태와 사회적 지지 만족도에 미치는 효과 연구에서 주 1회 방문 서비스 후 우울감이 유의미하게 감소했다고 한다.

 

문현정 2013, 취약 계층 재가 노인의 사례 관리 성과와 영향 요인에 관한 구조 모형 구축 연구에서 서비스 제공자의 특성과 수행 내용, 질이 우울감 감소에 큰 영향을 주는 지표라는 결과가 있었다. 김두명 2015 연구에서 도우미 당 개인적 편차에 따라 효과가 달랐다고 한다. 그렇기에 더욱 상담 서비스의 전문성을 발전시키는 게 중요하다. 말벗 봉사단, 노노케어 등의 서비스 또한 추가적으로 분석하면 좋다.

 

 

2. 대화 이외의 활동

사람과 하는 활동이라는 점에서 대화 외에도 충분히 가능하다.

취미를 함께: 치매 예방을 위한 보드 게임, 뜨개질 등

일상을 함께: 약속 잡기(AI가 말로 자꾸 뭐 하라고 권장해도 안하면 그만이다) 등

정보를 나누기: 노인들이 잘 모르는 다른 세대 이야기, 현재 트렌드나 외부 정보를 공유, 새로 생긴 어떤 곳에 데려가주기 등

 

 

3. 1:1보다 확장하기

AI에 비해 다양한 서비스를 제공할 수 있고 더 깊은 친밀감을 나눌 수 있다는 건 가능성이 많다. 성격합 취미합 지역을 고려해서 상담사를 매칭하고 또한 친구의 친구를 만들어줄 수 있다.

 

 

사실 궁극적으로 ai 케어 vs 인간 케어의 싸움이 아니다

고립을 하나(집에 ai 로봇, 가끔 연락 오는 ai 통화, 또는 가끔 방문하는 복지사)로 떼울 것이냐 (인간 다수) 사회 일원을 참여시킬 것이냐의 문제다.

 

 

 

---

ai 케어 장단점과 한계, 인간 돌봄의 방향.hwp

0.03MB

파일로 보기 ▲