[기타] HuggingChat Assistants을 사용한 독후감 챗봇 만들기

들어가며

 

저는 책을 읽고나면 인상적이어서 기억하고 싶은 부분을 남겨놓곤 합니다. 그런 부분들은 단편적으로 기록하기도 하지만, 잘 모으고 연결해서 하나의 글로 완성하고 싶은 바람도 있습니다. 평론가들이 시나 소설을 읽고 남긴 평론들을 보면 어떤 주제와 의견을 갖고 그 작품의 내용을 잘 편집해놨더라고요. 평론급으로 독후감을 쓰겠다는 건 아니지만.. 그래도 내가 인상적이었던 부분들과 말하고 싶은 내용을 자연스럽게 연결하는 글의 초안을 작성하거나 제안해주면 좋겠다는 마음으로 독후감 챗봇 만들기를 해보았습니다.

 

 

 

HuggingChat Assistants 소개

 

챗봇 만들기를 위해 사용한 플랫폼은 허깅페이스의 HuggingChat입니다. 여기서는 Assistants라고 하여 사용자가 직접 챗봇을 만들 수 있는 서비스를 제공하고 있습니다.

 

유사한 서비스로는 OpenAI의 GPTs가 있습니다만, 이건 유료입니다. 허깅페이스는 현재(2024년 10월) 기능을 무료로 제공하고 있어 선택했습니다.

 

 

Assistants의 화면입니다. 사용자들이 자신이 제작한 챗봇을 만들어 제공하고 있습니다. 

 

우측 상단의 Create new assistant 버튼을 클릭하여 직접 챗봇을 제작할 수 있습니다.

 

 

Avatar

- 챗봇의 이미지를 설정합니다.

 

Name

- 챗봇의 이름을 설정합니다.

 

Description

- 챗봇의 기능을 소개합니다.

 

Model

- 챗봇에서 사용할 언어 모델을 설정합니다.

 

 

언어 모델을 선택한 후에는 Temperature, Top P, Top K 등 파라미터를 조절할 수 있습니다. 챗봇의 성격, 기능에 따라 조절합니다. 

 

User start messages

- 대화의 시작을 알리는 메시지입니다.

 

Tools

- 어시스턴트에서 사용할 툴들을 선택할 수 있다고 합니다. 툴은 허깅페이스에 업로드된 모델을 외부 호출을 통해 사용할 수 있도록 하는 서비스입니다. 허깅챗 왼쪽 사이드바에서 어시스턴트 바로 아래에서 확인할 수 있습니다.

 

Internet access

- 외부 검색 사용 여부를 선택하고 링크를 지정할 수 있습니다. 

 

Instructions

- 챗봇의 역할과 기능 등 지시사항을 작성합니다. Dynamic Prompt는 url 페이지의 컨텐츠와 연결하는 기능을 제공합니다. 빈번하게 컨텐츠가 변경되는 url을 참조해야 되는 경우 사용하면 좋겠습니다.

 

참고로, 생성한 Assistant는 전체 공개가 디폴트입니다.

 

 

 

독후감 챗봇 만들기

 

 

사용자에게서 책 소개와 인상 깊었던 내용을 입력하게 한 후, 이를 이용해 독후감을 작성하라고 지시사항을 작성했습니다. 아래 Create를 통해 어시스턴트를 생성합니다.

 

 

 

User message로 작성했던 "독후감 작성해줘"를 눌러 대화를 시작합니다.

 

 

저의 의도는 1단계 내용을 사용자에게 입력 받고, 이후에 2단계 내용을 받는 것이었는데요. 만들어진 챗봇은 한번에 두 가지 사항을 모두 입력하라고 유도하고 있었습니다. 아무튼 요청에 따라서 각 단계마다 내용을 작성하였습니다. 

 

 

1단계는 도서 플랫폼에 있던 책 소개를 바탕으로 간단하게 스스로 작성했습니다. 2단계에서는 인상적이었던 도서의 내용들을 그냥 이어서 붙여넣기하였습니다.  

 

 

독후감은 1단계에서 제공했던 도서 정보로 첫 문단을 시작합니다. 이후 2~4문단에서는 2단계에서 제공했던 도서의 내용들을 거의 그대로 작성해서 이부분은 그다지 만족스럽지 않았는데요. 다만 이후 5~6문단에서는 나름대로 스스로 생각하여 도서의 내용들을 요약하고 중요한 지점을 강조하고 있습니다. 언어 모델이 이해한 중심 주제와 앞으로의 다짐들을 사람이 작성한 것처럼 작성하였네요. (생성AI를 이용한 독후감 숙제.. 숨쉬기 만큼 쉽다..) 

 

 

 

마치며

 

본 포스트에서는 챗봇 생성 서비스 HuggingChat의 Assistants에 대해 알아보았습니다. 몇 가지만 작성하면 원하는 기능을 구현하는 챗봇을 만들 수 있었습니다. 프롬프트 엔지니어링이나 모델 등 여러가지 실험 요소가 있지만, UI를 통해 이정도로 간단하게 챗봇을 만들 수 있다는 것이 정말 신기했습니다. 

 

물론 위에서 만든 챗봇이 완전히 만족스럽지는 않습니다. 새로 대화를 시작할 때마다 처음으로 제공하는 내용들이 조금씩 달라져서 고정시킬 필요가 있겠고요. 책 내용을 사용자가 직접 작성하지 않고, Internet access 을 적용해 도서 플랫폼의 URL과 검색을 사용한다면 1단계를 적절하게 생략할 수도 있을 것 같습니다.

 

아무튼 이렇게나 쉽게 원하는 기능을 제공하는 챗봇 만들기가 쉽다는 점..! 심지어 무료! 생성AI를 이용해 업무 자동화가 필요할 때 적극적으로 이용하면 좋을 것 같습니다.

 

 

 

참고

 

https://www.gpters.org/research/post/huggingchatyi-assistant-gineung-hwalyonghae-bogi-6rDMJet3SV7rIeW

HuggingChat의 Assistant 기능 활용해 보기