서울우먼잇츠 팀트랙 스터디에 참여 중이다. 바이브코딩이 메인 주제인 스터디인데, 처음 한 달은 구글클라우드스킬부스트를 통해 스킬 뱃지를 획득했고 이후 한 달은 바이브코딩을 적용해 실제 서비스를 구축해보기로 했다. 이전에는 마라톤 계획 세우기 웹서비스를 배포했었다.(후기는 여기) 이번에는 대시보드 구현을 위해 바이브코딩을 활용해보기로 했다. 바이브코딩으로 사용할 도구는 codex이고, 대시보드의 대상은 vllm metrics이다. vllm은 언어모델 서빙 지표를 metrics 엔드포인트로 제공하고 있는데, 이를 prometheus에서 스크래핑하고 grafana에서 시각화할 수 있다. 어차피 업무로 해야할 일이고, 대시보드를 커스텀하는 작업을 바이브코딩으로 풀어볼수 있지 않을까 싶어 진행해보기로 했다. ..

서울우먼잇츠 팀트랙 스터디에 참여 중이다. 바이브코딩이 메인 주제인 스터디인데, 처음 한 달은 구글클라우드스킬부스트를 통해 스킬 뱃지를 획득했고 이후 한 달은 바이브코딩을 적용해 실제 서비스를 구축해보기로 했다. 업무를 하면서 vscode에 깃허브 코파일럿을 연결해 조금씩 사용하고는 있지만, 바이브코딩으로 서비스를 만들어 보는 것은 처음이라 너무 재밌을 것 같다는 기대를 갖고 시작했다. 데이터를 들여다보고 예측 모델링을 하는 작업이나 해봤지, 나만의 서비스를 만드는 것부터도 처음인지라 기대가 컸다. 서비스 기획하기 바이브코딩을 위해 어떤 도구를 사용하던 간에 중요한 건 "구체적으로 어떤 서비스를 만들고 싶은가"에 대해 스스로 정의하는 것이라고 생각했다. 무엇을 할지 정해야 코드도 그에 맞게 짜여질 것이고..

서비스 개요 생성형AI를 이용한 서비스 개발이 아주 장안의 화제다. 생성형AI를 적용해 여러 서비스를 만들 수 있겠지만, 업무와 연관성 있는 작업들, 특히 사무직의 꽃이라 할 수 있는 보고서 생성은 빠른 퇴근을 바라는 직장인들에게 큰 도움이 되지 않을까 싶다. 보고서 생성 서비스 만들어봐라는 얘기가 나온지는 좀 되었는데 우선순위에 밀려 있다가 최근에서야 각 잡고 이것저것 찾아보며 개발하였다. 구글 제미나이가 보고서 생성에는 다른 것 보다 낫다는 의견에 결제를 위한 품의서도 올렸다. OpenAI만 써보는 것보단 다른 것도 경험해봐야 비교도 해보고 하니 좋은 기회다. 보고서를 작성할 땐 객관적인 자료도 필요할 텐데 구글의 검색 도구를 활용할 수도 있으니 그냥 생성만 맡기는 것보다는 더 좋은 결과를 줄 수 ..

한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다. https://www.hanbit.co.kr/store/books/look.php?p_code=B2599445240 핸즈온 LLMLLM, 눈으로 익히고 손으로 구현하라. 트랜스포머 구조부터 시맨틱 검색, 미세 튜닝, 프롬프트 엔지니어링까지 그림과 실전 코드로 만들면서 배우는 대규모 언어 모델의 모든 것www.hanbit.co.kr 도서 선택 이유 본격적으로 언어모델에 대한 업무를 수행하며 보다 깊은 이해가 필요하기 시작했다. 단순하게 지피티나 gemini와 같은 대형언어모델의 API를 통해 서비스를 구축하는 것이 아니라 소형언어모델을 이용해 분류를 한다던가 (당장 할지 안할지는 모르겠지만) 미세 튜닝까지 염두에 두어야 하는 상황이다...

https://www.hanbit.co.kr/store/books/look.php?p_code=B3218030348 챗GPT 일타강사의 직장인 업무 만렙 공략집“챗GPT, 일 잘하는 직장인은 이렇게 쓴다” 대기업 출강 압도적 1위! 일타강사가 알려주는 챗GPT 완벽 활용법www.hanbit.co.kr 한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다. 도서 선택 이유 요즘 대화주제에서 챗GPT를 빼놓을 수 없을 정도로 화제입니다. 저야 업무 때문에 1년 넘게 활용하고 있지만, 최근에 제 친구들은 지피티를 대상으로 사소한 개인적인 일들을 토로하며 이른바 "감쓰(감정쓰레기)"로 활용하고 있더군요. 사람을 상대하는 것이 아니기에 눈치 보이지도 않고, 얘기를 들어주는 이 지피티도 지치지 않..

📌 오류 제목 파이썬 코드에서 async를 적용했지만 실제 서비스에서는 비동기 작업이 적용되지 않은 건 📍 발생 환경 OS: Ubuntu 22.04Python 3.10.12, langchain 0.3.12, FastAPI 0.115.6, uvicorn 0.34.0  💥 오류 내용 비즈니스 로직에 해당하는 파이썬 코드들을 모두 async 비동기 처리했으나,실제 서비스에서는 여러 창을 띄우고 실험했더니 적용되지 않은 현상을 발견비동기 처리가 되지않고 이전 작업을 모두 마쳐야 다음 작업이 실행되는 것으로 확인함때문에 사용자는 앞단의 처리가 모두 완료될 때까지 대기해야 하는 문제 사항 발생정확히 따지자면 오류는 아니고 컴퓨터에 대한 이해가 부족해서 발생한 문제 😓  🔍 문제 원인 분석 비즈니스 로직은 ..

한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다.(작년에 이어 올해도 서평단으로 선정되었습니다..!)도서 선택 이유회사에서 RAG(Retrieval Augmented Generation)를 밑바닥부터 개발했습니다. 약 3개월 정도의 기간동안 빠르게 기획하고 문서를 구축하고 back에서 구동시킬 RAG 파이프라인을 만들었는데요. 일단 알고 있는 RAG 지식을 총동원하여 만들어 놓긴 했지만, 더 발전시키기 위해서는 LLM을 잘 이해하고 써야겠다는 생각이 들었습니다. 한번 LLM을 활용한 서비스를 만들고 나니, 다른 활용 방안은 또 뭐가 있을지, 실무에서 생성AI가 필요한 구석이 어디가 있을지 고민하기도 했구요. 이 책이 그런 고민에 도움이 될 것으로 생각해서 올해 서평단 첫 도서로 선정했..

한빛미디어 ‘나는리뷰어다2024’ 서평단으로서 선정한 여섯 번째 도서는 입니다.  저는 AI 업무를 하면서 4년 넘게 파이썬을 사용하고 있습니다. 주로 데이터 사이언스, 분석을 위한 도구로서 사용해왔는데요. 최근에는 AI 서비스를 만들면서 보다 파이썬을 잘 알아야겠다는 필요성을 느꼈습니다. 백엔드 언어로 사용하기 위한 비동기라던지, 클래스를 잘 만들고 다룰 수 있는 방법 같은 것 말이죠.  마침 나는 리뷰어다 12월 이벤트를 통해 파이썬의 다양한 기능들을 소개하는 이 도서를 지원받을 수 있었습니다. 파이썬으로 데이터 사이언스를 위해 코딩을 하는 일을 넘어서, 다른 컴퓨터 언어처럼 여러 기능 구현을 위해 알면 좋을 개념들, 파이썬 신규 버전에서 추가된 기능들 등등을 소개하고 있었고, 업무에 큰 도움이 될 ..

들어가며 RAG 시스템을 사용하며 그 구조에 대해 알고는 있었습니다. 심지어 이 시스템의 성능을 높이려면 어떤 요소를 추가하며 고도화해야하는지도 구상했습니다. 다만 제가 직접 밑단에서부터 구축해본 경험은 없더라구요. 만들어진 시스템을 통해 데이터를 구축하고, API를 사용해 검색과 생성 결과를 얻어본 적은 있지만 파이썬을 사용해 좀 더 기본적인 바탕을 익혀보고자 강의를 수강하였습니다. https://www.inflearn.com/course/%EC%9E%85%EB%AC%B8%EC%9E%90%EB%A5%BC%EC%9C%84%ED%95%9C-%EB%9E%AD%EC%B2%B4%EC%9D%B8-%EA%B8%B0%EC%B4%88/dashboard [지금 무료]입문자를 위한 LangChain 기초 강의 | 판다스 ..

들어가며 저는 책을 읽고나면 인상적이어서 기억하고 싶은 부분을 남겨놓곤 합니다. 그런 부분들은 단편적으로 기록하기도 하지만, 잘 모으고 연결해서 하나의 글로 완성하고 싶은 바람도 있습니다. 평론가들이 시나 소설을 읽고 남긴 평론들을 보면 어떤 주제와 의견을 갖고 그 작품의 내용을 잘 편집해놨더라고요. 평론급으로 독후감을 쓰겠다는 건 아니지만.. 그래도 내가 인상적이었던 부분들과 말하고 싶은 내용을 자연스럽게 연결하는 글의 초안을 작성하거나 제안해주면 좋겠다는 마음으로 독후감 챗봇 만들기를 해보았습니다.   HuggingChat Assistants 소개 챗봇 만들기를 위해 사용한 플랫폼은 허깅페이스의 HuggingChat입니다. 여기서는 Assistants라고 하여 사용자가 직접 챗봇을 만들 수 있는 서비..