안녕하세요.
케이뱅크 AX팀 조용걸입니다.
제가 속한 AI CX 그룹에는 국내/해외 컨퍼런스 비용을 지원해주는 프로그램이 있습니다.
위 프로그램에 지원해 선정되어 싱가포르 국립대학교에서 개최한 DIS 2026 컨퍼런스에 다녀왔습니다.
DIS(Designing Interactive Systems)는 HCI(Human-Computer Interaction) 분야 학회 중 하나로, 사용자와 시스템의 상호작용을 어떻게 설계할지에 대한 디자인·기술적인 주제와 함께 그것이 사회에 어떤 영향을 미치는지를 공유하는 학회인데요. 최근에는 AI가 주요 화두입니다.
최근 대화형 AI 서비스 업무들을 진행하면서 아래 네 가지 주제에 대해 고민해 왔습니다. 이번 기회를 통해 고민해 온 질문에 대한 실마리를 찾고, 앞으로 나아갈 방향에 대한 인사이트를 얻고자 했습니다.
- 기능 탐색 — 대화형 AI 서비스가 제공하는 역할 범위가 커질 때 어떤 기능까지 제공하는지 사용자가 어떻게 이해하고 사용할 수 있는가?
- 개인화 — 사용자 정보 바탕으로 맥락에 맞는 행동 제안 및 사용 유도를 어떻게 할 수 있을까?
- 마케팅 — 서비스 사용성을 저해하지 않으면서 상품 권유 및 마케팅 요소를 어떻게 제공할 수 있을까?
- 인터페이스 — AI 결과를 어떻게 사용자에게 전달하면 좋을까?
학회는 주말 워크샵(토,일) 이후 월화수 총 5일 동안 진행되었습니다.
최근 화두가 생성형 AI인 만큼 학회 세션 & 포스터 부스도 생성형 AI와 관련된 내용이 대다수였습니다.
그 중 2개의 페이퍼 세션이 재미있었는데요.
- When Do Users (Not) Want Explanations? Understanding Explanation Demand in Human-AI Interaction
- Who Gets Left Out of Digital Banking in Later Life? Barriers and Opportunities in Hong Kong’s Silver Population
사용자에게 AI가 그 답변을 한 근거와 내용을 제공하는 게 당연히 좋다고 생각되지만, 선행 연구들에서는 사용자들이 이 설명을 읽는 걸 시간 낭비로 여기는 경우가 많아 설명을 기본값이 아닌 선택지로 구성하는 게 좋을 수 있다는 사실을 알게 되었고,
디지털 뱅킹을 이용하는 60세 이상 고객들을 같은 집단으로 보는 게 아니라 60/70/80대별로 다르게 봐야 한다는 점도 알게 되었습니다. 60대는 디지털 뱅킹을 굉장히 잘 사용하지만 ‘잘못 누를까 봐’ 같은 심리 장벽이 있고, 70대는 서비스를 이용하는 지식 장벽이 크다는 실험 결과였습니다.
이 외에도 학회 기간 동안 함께 살펴본 최근 HCI 학회(UIST·CHI·CSCW) 논문들에서 앞의 네 가지 고민에 대한 실마리를 얻을 수 있었습니다.
- 대화가 길어지면 사용자는 “내가 요청한 걸 AI가 다 들어줬나”를 놓친다.
- 대화가 어긋날 때 왜 어긋났는지가 불투명하다.
- ⭐ 멀티턴 금융 Task의 요청 체크리스트와 충족 여부를 GUI로 상시 보여주기
- ⭐ 사용자가 말한 조건을 목표로 추출해, AI 답변이 각 조건을 만족했는지 한눈에 보여주기
- ChatGPT류 대화형 검색은 정보를 하나의 답으로 합쳐주지만, 항상 똑같은 포맷으로 준다.
- 예) “내일 할 일”이든 “내년 휴가”든 같은 식으로 답하지만, 사람은 가까운 일엔 구체적인 항목(시간, 가격)을, 먼 일엔 큰 그림(개요)을 원한다.
- ⭐ 가깝고 구체적인 금융 액션(이체, 잔액 확인)엔 상세 카드 + 숫자
- ⭐ 멀고 추상적인 주제(노후 등)엔 개요 텍스트
- ⭐ 추상적인 질문에 화려한 차트는 역효과. 차트는 구체 수치를 다룰 때만 사용할 것
- 검색이 LLM으로 옮겨가면서 기업들은 “LLM 응답에 상업적 메시지를 어떻게 끼워 넣을지” 고민하기 시작했고, LLM 광고는 기존 검색 광고와 본질이 다르다.
- 검색 광고는 사용자가 라벨을 보고 구분할 수 있지만, LLM 응답은 자연어 속에서 경계가 사라진다.
- ⭐ LLM이 검색보다 약 2.7배 광고 효과가 있었고, 사용자는 광고를 거의 인지하지 못했다.
- ⭐ 그래서 금융 서비스에서는 오히려 광고임을 분명히 표시하고 어조를 중립적으로 유지하는 것이 더 중요하다.
- LLM은 진실보다 사용자에 대한 동의를 우선시하는 경향이 있다.
- “친절한 어조”와 “사용자에게 무조건 동의” 중 어느 쪽이 신뢰에 더 영향을 미치는가?
- ⭐ “친절한 어조 + 일관된 입장” 조합을 표준으로. 친절함은 유지하되, 사용자가 잘못 짚었을 때 “다시 보셔야 합니다”라고 말할 수 있는 챗봇이 장기 신뢰를 만든다.
- ⭐ 광고 도입 시 어조 가이드라인이 반드시 필요하다. 광고가 포함된 응답일수록 어조를 더 중립적으로 고정하는 정책이 좋다.
- ⭐ 금융 챗봇은 “친구”가 아니라 “전문가”여야 한다. 친절은 OK, 동조는 위험.
- 첫 프롬프트부터 “뭘 물어봐야 잘 답해줄까?”를 고민하는 Cold Start 문제가 있다.
- 두 번째부터는 한 우물만 파게 되어, 다른 서비스나 기능을 사용할 가능성을 잃는다.
- ⭐ 현금 흐름 서비스 사용 직후 “남는 현금 흐름을 바탕으로 이런 상품 가입은 어때요?”처럼, 사용자가 질의한 내용과 의도적으로 거리가 있는 프롬프트를 제안하기
- ⭐ 일부러 목적과 떨어진 프롬프트를 추천해도 인지 부하는 늘지 않았다.
- AI 에이전트가 작업을 처음부터 끝까지 혼자 해버려서, 정작 중요한 선택과 맥락 정보를 사용자에게 알리지 않는다.
- “제일 싼 탄산수를 장바구니에 담아줘”라고 하자, 같은 가격의 여러 제품 중 하나를 임의로 골라 담았다. 맛이 다르거나 평점이 더 높은 대안이 있다는 걸 사용자는 알지 못했다.
- ⭐ 중요한 선택의 순간에는 사용자에게 “어떤 걸 고를래요?”라고 묻기. 적절한 순간에 사용자에게 통제권을 넘기는 것이 만족도와 주체성, 실제 성공률을 모두 끌어올렸다.
학회 중간중간 쉬는 시간과 식사 시간에는 뷔페 형식으로 음식이 제공되어 자연스럽게 네트워킹할 수 있는 자리가 있었습니다. 연사분들에게 질문도 하고, 한국 연구자분들께 생성형 AI 서비스를 개발하며 고민 중인 지금의 방향성에 대해 짧게 자문을 구하기도 했습니다.
학회 일정을 마친 후에는 마리나 베이에 들러 맛있는 것도 먹고 머라이언 동상도 보면서 자유여행도 만끽했습니다.
현재 저는 아래 두 서비스를 개발하고 있습니다.
- AI 비서 — 금융앱을 AI로 손쉽게 사용할 수 있는 서비스
- K-metrics — 대화로 지표를 묻고 쿼리를 생성하는 사내 Text2SQL 서비스
이번 학회에서 얻은 인사이트를 바탕으로, 두 서비스에서 이런 경험을 만들어 가려 합니다.
- 1) 요청을 놓치지 않게 — 대화가 길어져도 고객이 말한 조건을 체크리스트로 보여주고, 각 조건이 충족됐는지 한눈에 확인할 수 있게 합니다.
- 2) 질문에 맞는 모양으로 — 이체·잔액처럼 가까운 일에는 숫자와 상세 카드로, 노후처럼 먼 일에는 개요로 답합니다. 차트는 구체적인 수치를 다룰 때만 씁니다.
- 3) 중요한 선택은 고객에게 — AI가 임의로 고르지 않고, 결정적인 순간에는 “어떤 걸로 할까요?”라고 묻습니다.
- 4) 설명은 필요할 때 열어보게 — 근거를 처음부터 다 펼치지 않고, 원할 때 확인할 수 있는 선택지로 둡니다.
- 5) 친구가 아닌 친절한 전문가로 — 친절하되 고객이 잘못 짚었을 때는 바로잡습니다. 상품 권유가 섞인 답변일수록 광고임을 분명히 하고 어조는 중립을 지킵니다.
- 6) 몰랐던 기능을 만나게 — 한 기능에만 머물지 않도록, 지금 대화와 일부러 거리가 있는 다음 질문도 함께 추천합니다.
고객이 ‘내 말을 정확히 이해하고, 믿고 맡길 수 있는’ AI를 경험할 수 있도록 계속 다듬어 가겠습니다.
감사합니다.
