전현준의 현업 에이전 - 언제까지 AI에게 매번 같은 설명을 다시 해야할까？ ｜ 현업이 알려주는 LLM Wiki (Feat. RAG와의 차이)

34:06 3 speakers 9 chapters 577 segments
Full Transcript Search All

Speakers

Chapters

  1. 0:00
    Chapter 1: 이 문서는 여기에 들어와 있어요 라는 정보를 LLM 위키가 알아서 관리하게끔 구성해 놓은 거죠. 268s · Speaker 1

    이 문서는 여기에 들어와 있어요 라는 정보를 LLM 위키가 알아서 관리하게끔 구성해 놓은 거죠. 그래서 이런 정보가 있구나 이런 건 이 위키에 없구나 와 같은 것들이 정보가 연결되도록 구성한 게 LLM 위키고요. 레그는 뭐 들어왔는지 모르겠지만 일단 때려 넣어 식의 그런 문서 저장소를 구성하는 방식을 의미합니다. 그냥 시스템적으로 볼 때는 굉장히 설계하기도 쉽고 뭐 별거 없네 라고 하시면서 이제 금방 적용을 하지만 이게 결국 …

  2. 4:28
    Chapter 2: 두고 어떻게 언제 제공할지 같은 것들을 결정해야 된다라는 것에 좀 포커스를 두고 이 세미나를 들어주셨으면 좋겠습니다. 301s · Speaker 2

    두고 어떻게 언제 제공할지 같은 것들을 결정해야 된다라는 것에 좀 포커스를 두고 이 세미나를 들어주셨으면 좋겠습니다. 그래가지고 나만의 우리 팀만의 지식 저장체계 구축에 대해서 판단 기준을 갖게 되시는 거죠. 이런 지식 저장소는 결국은 저희가 AI 에이전트를 다룰 때 이제 어떤 하네스를 구성해서 다루시게 될 건데요 그 하네스에 데이터를 입력하는 게 모델은 이렇게 여러 가지 종류가 있을 건데 저희가 그 모델을 잘 다루기 위해서 …

  3. 9:29
    Chapter 3: 그러니까 그렇게 쓰레기만 쌓이는 산이 아니라 어떤 스키마를 주고 룰을 줘서 저희가 어떻게 이걸 읽. 104s · Speaker 1

    그러니까 그렇게 쓰레기만 쌓이는 산이 아니라 어떤 스키마를 주고 룰을 줘서 저희가 어떻게 이걸 읽... 쓰고 저장할지를 정하는 규칙을 정해 가지고 너무 과다하게 쌓이지 않고 그리고 정보를 찾고 싶을 때 바로바로 찾기 위해서 어떤 규칙을 두자 라고 해서 하네스 형태를 구성을 해서 쌓자 라고 해 놓은 게 LLM 위키의 세 가지 레이어입니다 그래서 저는 여기서 이제 키포인트로 보셔야 되는 게 이렇게 계층을 분리했다 라고 보시면 좋을…

  4. 11:14
    Chapter 4: 있을 수 있습니다. 302s · Speaker 2

    있을 수 있습니다. 그래서 그런 답변은 또다시 이 위키로 들어가는 거죠. 그러면서 중간에 문서 레이어가 또 변화가 되고 업데이트가 되는 거고요. 그리고 나서 규칙에 의해서 문서품질은 지속적으로 보존이 됩니다. 그래서 LLM 위키가 그냥 시스템적으로 볼 때는 굉장히 설계하기도 쉽고 별거 없네 라고 하시면서 금방 적용을 하지만 이게 결국 쓰레기 산을 만들게 되는 게 마지막에 있는 문서품질을 보존하는 게 굉장히 어려워요. 그래서 L…

  5. 16:17
    Chapter 5: 설명을 할 수 있을 것 같아요 가운데 있는 이 마크다운 도큐먼트 스토리지 이게 그냥 기대포라고 보시면 되고요 마크다운 문서를 저장하고 있는 그런 저장소라고 보시면 되는데 두 가지의 뷰가 존재를 하는 거죠 비개발자 이렇게 나눠서 죄송합니다 제가 개발자여서 개발자 비개발자로 나눌 수밖에 없었어요 그래서 비개발자 분들의 접근 방식은 주로 옵시디언에서 노트를 작성하시는 경우가 많았고 손으로 작성하시는 거 기반으로 했을 때는요. 72s · Speaker 2

    설명을 할 수 있을 것 같아요 가운데 있는 이 마크다운 도큐먼트 스토리지 이게 그냥 기대포라고 보시면 되고요 마크다운 문서를 저장하고 있는 그런 저장소라고 보시면 되는데 두 가지의 뷰가 존재를 하는 거죠 비개발자 이렇게 나눠서 죄송합니다 제가 개발자여서 개발자 비개발자로 나눌 수밖에 없었어요 그래서 비개발자 분들의 접근 방식은 주로 옵시디언에서 노트를 작성하시는 경우가 많았고 손으로 작성하시는 거 기반으로 했을 때는요. 그래서…

  6. 17:30
    Chapter 6: 구성을 해놨습니다. 300s · Speaker 1

    구성을 해놨습니다. 그래서 에이전트가 들어왔을 때 자기 마음대로 이 스토리지를 다루는 게 아니라 정해놓은 규칙 안에서 정해놓은 규칙 기반으로만 작업을 하도록 구성을 했어요. 그래서 만약에 아주 간단한 예시로 개인이 어떤 작업 결과물을 냈는데 그걸 팀 레벨의 지식으로 만약에 승격을 시키고 싶다. 라고 하면 좀 저는 이제 내부적으로 요런 프로세스를 타고 있습니다. 멤버스라는 폴더 밑에 제 개인 이름으로 된 폴더 밑에서 어떤 초안을…

  7. 22:30
    Chapter 7: 그래서 저는 이런 팀 단위 또는 회사 단위의 지식과 개인의 지식이 굉장히 적절하게 융합이 되니까 어떤 이 공간이 어떤 안목지를 담아내는 근간이 될 수도 있지 않을까. 301s · Speaker 1

    그래서 저는 이런 팀 단위 또는 회사 단위의 지식과 개인의 지식이 굉장히 적절하게 융합이 되니까 어떤 이 공간이 어떤 안목지를 담아내는 근간이 될 수도 있지 않을까. 이제 우리가 형식지를 넘어서 안목지까지 다뤄내는 게 사실 AI 에이전트를 다루시는 분들의 엄청난 고민인데 이거 업무하면서 쌓이는 안목지들을 이렇게 다뤄볼 수 있지 않을까 라는 생각을 많이 하게 됐어요. 그래서 이제 그렇게 정보를 다뤄서 저장을 하다 보니까 이런 문…

  8. 27:31
    Chapter 8: 이런 것들은 한번 제가 정리하려고 이렇게 써뒀는데 결국은 LLM 위키에서 제공하는 것처럼 컨텐츠를 그냥 원본 그대로 바로 두는 것이 아니라 한번 읽어서 여기서 어떤 의미가 좋은 건지 내 업무에 의미가 있는 건지를 한번 정제된 문서에 써두자. 303s · Speaker 1

    이런 것들은 한번 제가 정리하려고 이렇게 써뒀는데 결국은 LLM 위키에서 제공하는 것처럼 컨텐츠를 그냥 원본 그대로 바로 두는 것이 아니라 한번 읽어서 여기서 어떤 의미가 좋은 건지 내 업무에 의미가 있는 건지를 한번 정제된 문서에 써두자. 그리고 그걸 먼저 보자라는 컨셉이고요. 그렇게 레그 파이프라인을 저장할 때 이렇게 넣어두도록 구성을 했습니다. 그리고 질문할 때는 사실 꺼내서 읽는 거니까 그렇게 다르지 않죠. 그래서 아마…

  9. 32:35
    Chapter 9: 지을 수 있을 것 같아요. 83s · Speaker 1

    지을 수 있을 것 같아요. 그래서 이런 자료들을 만들기 위해서 저는 LLM 위키랑 오픈바이킹스라는 두 가지를 실제로 사용을 했고요. 그리고 옵시디언이라는 노트 도구를 사용을 하다 보니까 이게 되게 재밌는 게 사실 그냥 마크다운 문서 저장소입니다 그래서 아마 많이들 모르셨을 수도 있는데 옵시디언은 CLI 도구를 가지고 있어요 그래서 저희 클로드 코드나 코덱스에 되게 연동하기가 쉽습니다 그래서 원래는 이것만 준비를 했었는데요 딱 …