"한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다." 도서 선택 이유 최근 실무에서 진짜로 AI Agent를 도입하여 테스트를 해야할 필요가 생겼습니다.(이제는 더 이상 물러날 곳이 없다...) 심지어 하나도 아닌 둘 이상의 에이전트가 필요했습니다. 업무마다 성격도 다르고 단계가 점차 많아지는데, 이 서비스를 제공해야 하는 채널은 하나의 챗봇이기 때문입니다. '멀티 에이전트'는 선택이 아닌 필수였습니다. 싱글 에이전트는 이전에 다른 도서 후기에서 살펴보았지만 멀티 에이전트만 집중적으로 살펴본 적은 없어서, 바로 이 도서를 선택하였습니다. 목차와 주요 내용 파트 1에서는 멀티 에이전트에 대한 이해를 다룹니다. 싱글 에이전트와의 차이를 다루며 멀티 에이전트의 패턴들, 상태 관리와 ..

"한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다." 도서 선택 이유 실무에서 LLM을 단순 분류기, 추출기로 사용하다보니 다소 답답한 감이 있었습니다. 이런 작업은 일반 NLP에서 했던 건데, 이거 하자고 LLM을 도입하는 것이 맞나..? 다만 언어모델을 도입하기에는 정확도를 보장할 수 없는 상황이었고, 정확하지 않은 정보가 제공될 바에는 보수적으로 정보를 제공하지 않는 편이 낫다고도 생각했습니다. 이 결정때문에 프로세스는 복잡해졌고, 다양하게 작성되는 자연어 입력을 처리하기에도 부담이 되었습니다. 결국 에이전트를 도입하는 것이 역시 맞겠다는 생각에 이르렀습니다. 당장 서비스 오픈이야 지금 프로세스대로 진행할 지라도, 더 유연하고 올바른 처리를 위해서는 에이전트가 필요하다는 의견에 ..

한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다. 러닝 랭체인 도서 정보 도서 선택 이유 실무에서 이미 랭체인을 활용한 RAG 시스템을 구현해보고, 랭그래프를 이용해 일종의 에이전트처럼 동작하는 구조도 만들어본 경험이 있습니다. 다만 그 과정은 대부분 블로그 글, 공식 문서, ChatGPT·Gemini 등의 제안에 기반한 단편적 학습에 가까웠고, 프레임워크 자체를 체계적으로 이해했다고 자신있게 말하기에는 아쉬움이 남아 있었습니다. 마침 한빛미디어의 11월 리뷰 도서 선택지 중 이 있었고, 이 책이 랭체인 엔지니어들이 직접 집필한 도서라는 사실을 알게 되어, 더 고민할 것 없이 선택했습니다.(한빛미디어 감사합니다) RAG 프레임워크는 랭체인 외에도 라마인덱스 등 다양한 대안들이 존재..

한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다. https://www.hanbit.co.kr/store/books/look.php?p_code=B9626918878 AI 프로덕트 기획과 운영AI가 불러온 변화의 시대, 새로운 시대를 항해하는 PM을 위한 안내서www.hanbit.co.kr 도서 선택 이유 현재 기존 프로덕트에 소형언어모델을 활용한 분류 및 추출 기능을 도입하는 프로젝트를 수행하고 있습니다. 기술적으로는 소형언어모델을 이용해 반복적인 테스트와 개발 작업을 진행하고 있으나, AI 기능 범위의 모호함이나 AI 를 잘 모르는 관계자들의 높은 기대치(소형언어모델은 ChatGPT와 다르다는 점을 이해시키는 과정) 등, 프로젝트의 초기 단계에서 다소 매끄럽지 못한 진행에 대한..

서울우먼잇츠 팀트랙 스터디에 참여 중이다. 바이브코딩이 메인 주제인 스터디인데, 처음 한 달은 구글클라우드스킬부스트를 통해 스킬 뱃지를 획득했고 이후 한 달은 바이브코딩을 적용해 실제 서비스를 구축해보기로 했다. 이전에는 마라톤 계획 세우기 웹서비스를 배포했었다.(후기는 여기) 이번에는 대시보드 구현을 위해 바이브코딩을 활용해보기로 했다. 바이브코딩으로 사용할 도구는 codex이고, 대시보드의 대상은 vllm metrics이다. vllm은 언어모델 서빙 지표를 metrics 엔드포인트로 제공하고 있는데, 이를 prometheus에서 스크래핑하고 grafana에서 시각화할 수 있다. 어차피 업무로 해야할 일이고, 대시보드를 커스텀하는 작업을 바이브코딩으로 풀어볼수 있지 않을까 싶어 진행해보기로 했다. ..

서울우먼잇츠 팀트랙 스터디에 참여 중이다. 바이브코딩이 메인 주제인 스터디인데, 처음 한 달은 구글클라우드스킬부스트를 통해 스킬 뱃지를 획득했고 이후 한 달은 바이브코딩을 적용해 실제 서비스를 구축해보기로 했다. 업무를 하면서 vscode에 깃허브 코파일럿을 연결해 조금씩 사용하고는 있지만, 바이브코딩으로 서비스를 만들어 보는 것은 처음이라 너무 재밌을 것 같다는 기대를 갖고 시작했다. 데이터를 들여다보고 예측 모델링을 하는 작업이나 해봤지, 나만의 서비스를 만드는 것부터도 처음인지라 기대가 컸다. 서비스 기획하기 바이브코딩을 위해 어떤 도구를 사용하던 간에 중요한 건 "구체적으로 어떤 서비스를 만들고 싶은가"에 대해 스스로 정의하는 것이라고 생각했다. 무엇을 할지 정해야 코드도 그에 맞게 짜여질 것이고..

한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다. https://www.hanbit.co.kr/store/books/look.php?p_code=B2599445240 핸즈온 LLMLLM, 눈으로 익히고 손으로 구현하라. 트랜스포머 구조부터 시맨틱 검색, 미세 튜닝, 프롬프트 엔지니어링까지 그림과 실전 코드로 만들면서 배우는 대규모 언어 모델의 모든 것www.hanbit.co.kr 도서 선택 이유 본격적으로 언어모델에 대한 업무를 수행하며 보다 깊은 이해가 필요하기 시작했다. 단순하게 지피티나 gemini와 같은 대형언어모델의 API를 통해 서비스를 구축하는 것이 아니라 소형언어모델을 이용해 분류를 한다던가 (당장 할지 안할지는 모르겠지만) 미세 튜닝까지 염두에 두어야 하는 상황이다...

https://www.hanbit.co.kr/store/books/look.php?p_code=B3218030348 챗GPT 일타강사의 직장인 업무 만렙 공략집“챗GPT, 일 잘하는 직장인은 이렇게 쓴다” 대기업 출강 압도적 1위! 일타강사가 알려주는 챗GPT 완벽 활용법www.hanbit.co.kr 한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다. 도서 선택 이유 요즘 대화주제에서 챗GPT를 빼놓을 수 없을 정도로 화제입니다. 저야 업무 때문에 1년 넘게 활용하고 있지만, 최근에 제 친구들은 지피티를 대상으로 사소한 개인적인 일들을 토로하며 이른바 "감쓰(감정쓰레기)"로 활용하고 있더군요. 사람을 상대하는 것이 아니기에 눈치 보이지도 않고, 얘기를 들어주는 이 지피티도 지치지 않..

📌 오류 제목 파이썬 코드에서 async를 적용했지만 실제 서비스에서는 비동기 작업이 적용되지 않은 건 📍 발생 환경 OS: Ubuntu 22.04Python 3.10.12, langchain 0.3.12, FastAPI 0.115.6, uvicorn 0.34.0  💥 오류 내용 비즈니스 로직에 해당하는 파이썬 코드들을 모두 async 비동기 처리했으나,실제 서비스에서는 여러 창을 띄우고 실험했더니 적용되지 않은 현상을 발견비동기 처리가 되지않고 이전 작업을 모두 마쳐야 다음 작업이 실행되는 것으로 확인함때문에 사용자는 앞단의 처리가 모두 완료될 때까지 대기해야 하는 문제 사항 발생정확히 따지자면 오류는 아니고 컴퓨터에 대한 이해가 부족해서 발생한 문제 😓  🔍 문제 원인 분석 비즈니스 로직은 ..

한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다.(작년에 이어 올해도 서평단으로 선정되었습니다..!)도서 선택 이유회사에서 RAG(Retrieval Augmented Generation)를 밑바닥부터 개발했습니다. 약 3개월 정도의 기간동안 빠르게 기획하고 문서를 구축하고 back에서 구동시킬 RAG 파이프라인을 만들었는데요. 일단 알고 있는 RAG 지식을 총동원하여 만들어 놓긴 했지만, 더 발전시키기 위해서는 LLM을 잘 이해하고 써야겠다는 생각이 들었습니다. 한번 LLM을 활용한 서비스를 만들고 나니, 다른 활용 방안은 또 뭐가 있을지, 실무에서 생성AI가 필요한 구석이 어디가 있을지 고민하기도 했구요. 이 책이 그런 고민에 도움이 될 것으로 생각해서 올해 서평단 첫 도서로 선정했..