Expert Perspectives—Technology for Empathy and Plurality
Compassionate Computer Agents

Fig. 1: Timothy W. Bickmore, Northeastern University
Figure 10.1
Timothy W. Bickmore, Northeastern University

Health represents one of the most primal human needs, and technologies designed to positively impact health thus compose an important aspect of positive computing. Over the past decade, many researchers have investigated the development of automated caregivers that promote physical and mental health in people who interact with these systems. Many of these researchers believe that the most promising design methodology is to emulate the best role models we have—expert, compassionate, human caregivers—with as much fidelity as possible. The resulting systems are conversational, communicating with people in some form of natural-language dialogue, often accompanied by a virtual or physical representation of a human caregiver’s persona.

Media used in these systems span voice only (interactive voice response), animated agents (also known as “embodied conversational agents”), and social robots. The anthropomorphic qualities of these interfaces not only serve to make them approachable by a wide range of users but are essential for conveying many of the subtle cues used by human caregivers, such as empathy and compassion. These systems are necessarily limited in scope, but they promote some narrow dimension of health and wellbeing among their users, typically over the course of many conversations that can last weeks or months.

Most of the automated caregivers developed to date address physiological and mental health needs, including interventions for medication adherence, exercise and diet promotion, cancer prevention, prenatal care, and depression counseling. Most of these systems have demonstrated significant improvements in health relative to nonintervention or standard-of-care control groups, and many have been shown to be equal to interventions performed by human caregivers.

An increasing number of automated caregivers are being developed whose primary goal is to provide companionship, typically for older adult users who live alone. Although these agents may provide health or wellness coaching or cognitive stimulation activities, they also engage in a wide variety of social behaviors whose goal is to provide a feeling of social support among their users, which has been shown to be an important factor in decreasing mortality among isolated elderly. One study demonstrated that a companion agent provided to isolated older adults significantly decreased loneliness after a week and that the more users talked to the agent, the less lonely they were.

In addition to general anthropomorphic qualities, these agents use specific human behaviors to improve their effectiveness and their users’ sense of wellbeing. Social bonding between a caregiver and client (referred to as “therapeutic alliance”) is crucial in maximizing outcomes for all kinds of health interventions. Agents that use behavior designed to improve social bonding and therapeutic alliance have been referred to as “relational agents,” and several studies have shown relational behaviors can lead to significant increases in engagement with these agents. One of the most important agent behaviors for social bonding is the display of empathy, comforting, and compassion for the user when they are in a distressed state. Even though these behaviors are simulated and thus do not exhibit “true empathy” (by many definitions), a wide range of agent behaviors—including facial displays of concern, empathic language, and even physical touch—have been shown to significantly reduce user frustration, increase positive affect, and decrease loneliness over time—impacts that are arguably among the most important objectives of positive computing at the individual level.

Expert Perspectives - 공감과 다수성(Plurality)을 위한 테크노롤지
Compassionate Computer Agents

Fig. 1: Timothy W. Bickmore, Northeastern University
Figure 10.1
Timothy W. Bickmore, Northeastern University

건강은 인간이 갖는 가장 근본적인 요구 중의 하나이다. 따라서 건강에 긍정적으로 영향을 미치도록 설계된 테크놀로지는 긍정컴퓨팅의 중요한 측면으로 작용한다. 지난 10년 동안 많은 연구자들은 이런 테크놀로지와 상호작용하는 사람들의 육체적 정신적 건강을 증진하는 자동화된 돌보미시스템 개발에 매진해왔다. 연구자들의 대다수는 가장 유망한 디자인 방법은 우리가 알고있는 가장 훌륭한 롤모델(전문가, 동정론자, 인간돌보미 등등)을 가급적이면 충실하게 모방하는 것이라고 생각한다. 이렇게 개발된 시스템은 대화적이고 자연어 대화체에 기반한 커뮤니케이션을 하며, 가상적이거나 육체적으로 실제 인간 돌보미의 페르소나를 모방하는 모양새를 취하게 된다.

이런류의 시스템에 사용되는 커뮤니케이션 미디어는 소리(상호작용적인 소리반응)만을 사용하거나, 살아있는 에이전트 (통합된 대화적 에이전트), 혹은 사회적 로봇 등으로 다양하다. 이런 인터페이스의 의인화된 요소는 시스템이 다양한 계층의 사용자들에게 효과적으로 다가갈 수 있도록 하는데 도움이 되는 한편, 인간 돌보미가 실제 사용하는 미묘한 신호들(가령, 공감이나 동정 등)을 전달하는데에도 중요한 것이 된다. 이런 시스템들은 불가피하게 적용범위가 제한되어 있지만, 상당한 기간 동안의 대화를 주고 받음을 통해서 사용자들의 건강과 웰빙의 좁은 단면을 증진하는데 기여한다.

자동화된 돌보미시스템의 대부분은 육체적 정신적 요구를 다루기도록 개발되는데, 스케쥴에 따른 약물치료에 개입하는 것, 운동과 다이어트를 촉진하는 것, 암예방, 태아교육, 우울증 상담 등을 포함하는 것이다. 이렇게 개발된 시스템들은 아무런 개입이나 치료가 없는 콘트롤 그룹에 비해 월등한 건강의 호전을 보여주었고, 실제 인간돌보미에 의한 개입이나 치료에 비해도 손색이 없는 것으로 알려져 왔다.

자동화된 돌보미시스템은 증가추세에 있는데, 개발의 주목적이 혼자 거주하는 노인 사용자들에게 동반자적인 기능을 제공하는 것이 된다. 이런 시스템들은 건강/웰빙과 관련된 조언이나 인지자극활동을 제공하기도 하지만, 나아가서는 사용자들로 하여금 사회적인 지지감을 느끼도록 하는 다양한 종류의 사회적인 행동에 참여하도록 하기도 한다. 이런 것들은 혼자사는 노인들의 사망률을 줄이는 중요한 요인이라고 잘 알려져 있다. 어느 한 연구는 동반자적 시스템이 일주일 동안의 사용으로 독거 노인들이 느끼는 외로움을 감소하도록 하였음을 보여 주었으며, 사용자들이 시스템과 대화를 나누면 나눌 수록 사용자들이 덜 외로워했다고 한다.

일반적인 의인화적 요인에 더하여, 이 시스템들은 효율성을 높이고 사용자들이 웰빙을 느끼도록 하기 위해서 특정 인간 행동을 사용한다. 돌보미와 환자 간의 사회적연결(“치료적동맹”이라고 불린다)은 다양한 종류의 건강관련 개입이 최대치의 효과를 끌어내는데 없어서는 안될 중요한 것이다. 사회적연결이나 치료적동맹을 높이기위해서 디자인된 행동이 적용되는 시스템을 우리는 “관계적 시스템(relational agents)“이라고 칭하며 여러 연구들에 의하면 관계적인 행동들이 이런 시스템들에 관여하도록 하는데 많은 도움이 된다고 한다. 사회적연결을 위한 가장 중요한 행동으로는 고통상태에 있는 사용자들을 위해 공감, 위로, 동정을 보여주는 것이라고 한다.
이런 종류의 행동들은 실제행동을 모방하는 것으로 진정한 의미의 동정을 나태내는 것은 아니지만, 다양한 종류의 돌보미 행동들(염려하는 표정, 동정하는 말과 언어, 그리고 신처적인 접촉)은 사용자들의 좌절을 현저하게 낮추고, 긍정적인 효과를 끌어올리며, 외로운 감정을 줄인다고 밝혀져 왔다. 이는 개인적인 수준에서 이룰 수 있는 긍정컴퓨팅의 가장 중요한 목적 중의 하나라고 하겠다.

Computers and the Condition of Human Plurality

Fig. 1: Mihaly Csikszentmihalyi, Claremont Graduate University
Figure 10.2
Mihaly Csikszentmihalyi, Claremont Graduate University

It’s been half a century since Marshall MacLuhan wrote his treatise about the media, which was often wrong-headed but contained some truths as well. As is usually the case, the really important contributions of his thinking seem to have been forgotten. Or at least they have not been applied very much to the new media that have arisen since his writing.

If one just takes the most memorable line from MacLuhan’s work, “the medium is the message,” and applies it to computers and to the Internet, some interesting issues are foregrounded.

Let us just think about how computer-mediated communication differs from interpersonal face-to-face communication. The latter is the expression of what the social philosopher Hannah Arendt has called the fundamental fact of the human condition: plurality. What makes us human is that we can communicate our individual uniqueness to each other, and in so doing we can grow beyond the boundaries set by our genes and early environment. The only reason we can say, with Walt Whitman, that we contain multitudes, is that we are open to information coming from people who are so much like we are, yet also so different.

This information, which makes us who we are, is not contained just in the meaning of words. For us to take the information seriously, we must feel that the sender is to be trusted. And trust depends on many things: we now know it depends in part on how the person in front of us smells as well as on looks, expressions, tone of voice, and so on. After all, we are not going to take seriously messages sent by an unknown source or by someone who is completely different from us.

What is essential to the condition of plurality is this fine balance between similarity and dissimilarity among the partners of the exchange. If there is too much similarity, learning something new is unlikely; if there is too much dissimilarity, the information is unlikely to be relevant. For growth to occur, the information that contradicts our beliefs and prejudices must come from trusted sources.

What is missing from the so-called social media is the condition of plurality. Social media are social, but rarely plural. In other words, in order to maintain contact on the web, the parties usually try to emphasize their similarity. But because the communication relies only on the written word and not on the looks, smells, and other dimensions of physicality that facilitate openness and trust, each party essentially remains himself or herself, without having the growth-producing experience that an encounter among humans has, at least when the conditions for it are right.

Of course, we can and do learn a great deal from computer-mediated information—especially when the source has been established as trustworthy and when the information we seek is factual and objective. But some of the most important knowledge we seek is existential, or subjective and dialogical—that is, knowledge that helps us become fully grown persons. The computer is still not a very good medium for gaining that kind of information. Will it ever be? I am not a betting man, so I will stop right here.

컴퓨터와 인간 다수성의 조건 Computers and the Condition of Human Plurality

Fig. 1: Mihaly Csikszentmihalyi, Claremont Graduate University
Figure 10.2
Mihaly Csikszentmihalyi, Claremont Graduate University

마샬 맥루한(MacLuhan)이 미디어에 관한 논문을 세상에 내놓은지 반세기가 흘렀다. 그의 논문은 많은 부분이 잘못되었지만 어느 정도의 진실 또한 포함하는 것이었다. 대개의 경우가 그렇듯이 그가 제시한 아이디어의 진정으로 중요한 공헌은 잊혀진 상태이거나, 적어도 그의 저술 직후 대두된 뉴미디어에 대한 적용도 대체로 이루어지지 않은 상태이다.

맥루한의 업적 중 가장 기릴만한 것으로 “미디어가 메시지이다”라는 문구를 고르고, 이를 컴퓨터와 인터넷에 적용한다면 흥미로운 이슈들이 전면에 드러날 것이다.

우선 컴퓨터매개 커뮤니케이션과 대인적 면대면 커뮤니케이션이 어떻게 다른가에 대해서 생각해보자. 후자는 사회철학자인 한나 아렌트(Hannah Arendt)가 인간의 조건으로 가장 기초적인 것으로 꼽은 것의 표현이라고 할 수 있는데, 다양성이 그것이다. 우리를 인간으로 우뚝서게 하는 것은 우리 개인의 독특한 점을 서로 주고 받을 수 있는 능력이며, 그렇게 함으로써 우리는 우리 유전자와 초기 환경에 의해서 정해진 한계를 뛰어넘어 성장하고 있는 것이다. 월트 위트먼이 이야기 했던 것처럼 우리가 다양성을 유지한다고 이야기할 수 있는 이유는 우리와 유사한 사람들로부터의 정보 뿐만이 아니라 우리와 상반되는 사람들로부터의 정보에도 열려있기 때문이다.

인간을 인간으로 만든 이 정보는 단순히 단어의 조합으로 만들어진 의미만을 가지고 있지는 않다. 우리가 어떤 정보를 중요하게 여긴다는 것은 그 정보의 발신자(sender)를 믿는다는 것을 의미하기도 한다. 그리고 믿는다는 것은 여러가지의 것들에 의해서 좌우된다. 우리는 이제 이 신의라는 개념이 내 앞에서 말하는 사람이 어떤 냄새를 풍기는지, 어떻게 보이는지, 표현력은 어떤지, 그리고 목소리의 톤은 어떤지 등등에 의해서 좌우된다는 것을 안다. 결국 우리는 우리가 전혀 모르는 소스나 우리와 전혀 다른 사람에게서 보내진 메시지를 심각하게 받아들이지는 않을 것이다.

다양성 상태에 있어서 가장 중요한 것은 바로 정보교환 파트너 간의 유사성과 비유사성의 미세한 균형이다. 만약에 유사성이 너무 많다면 새로운 것을 배우는 것이 어려울 것이며, 비유사성이 너무 많다면 교환되는 정보가 상관없는 것이 되어 벌릴 것이다. 다양성이 증가하기 위해서는(?) 우리가 가진 믿음과 편견과 상반되는 정보가 신뢰가 있는 정보소스로부터 전달되어야 할 것이다.

소위 소셜미디어라고 하는 것들에게서 부족한 것은 바로 이 다양성 상태이다. 소셜미디어는 단어의 의미대로 사회적이다. 그러나 다양성을 가지고 있지는 않다. 즉, 사용자가 웹상에서 접촉을 하기 위해서는 그들이 가진 유사성을 강조해야만 한다. 그러나, 웹상에서의 커뮤니케이션은 개방성과 신뢰성에 도움을 주는 당사자의 생김새나 냄새, 혹은 다른 측면의 신체적인 특징이 아닌 자판으로 쓴 글에 의존하므로 당사자는 자기 자신에만 국한되는 커뮤니케이션을 하게된다. 즉 조건만 맞다면 일어날 수 있는 사람과 사람 사이에서 나타날 수 있는 경험인 관계의 발전(growth)이 없는 커뮤니케이션인 것이다.

물론 정보원의 신뢰성이 높고 정보가 사실적이며 객관적이라고 한다면, 우리는 컴퓨터매개 커뮤니케이션을 통해서 많은 것을 배울 수 있고 또 배우기도 한다. 그러나 우리가 추구하는 가장 중요한 (즉 우리가 완전히 성장한 개인이 되는데 도움이 되는) 지식은 존재론적인 것 혹은 주관적이고 주변적인 것이다. 컴퓨터는 아직도 이런 주변적 주관적 정보를 얻기에 좋은 미디어는 아니다. 컴퓨터가 이런 단점을 극복할 것인가? 필자는 내기를 좋아하지 않으므로 이런 질문에서 이 글을 마치려고 한다.