Your browser does not support JavaScript!

LangGraph와 LangChain을 통한 AI 에이전트 및 Cognitive Architecture 이해

일일 보고서 2024년 07월 18일
goover

목차

  1. 요약
  2. 초기 AI 도구 및 기술 개요
  3. LangChain과 LangGraph
  4. LangGraph의 구체적 사례와 응용
  5. RAG 시스템과 LangGraph
  6. LangChain과 LangGraph의 최신 업데이트
  7. AI 에이전트와 인지 아키텍처
  8. 커뮤니티와 업계 동향
  9. 결론

1. 요약

  • 이 리포트는 AI 기술인 LangGraph와 LangChain을 활용한 AI 에이전트 및 인지 아키텍처의 이해를 목적으로 작성되었습니다. 주요 내용으로는 LangGraph와 LangChain의 기능, 주요 기술 업데이트, 그리고 실제 적용 사례에 대한 설명이 포함됩니다. LangChain과 LangGraph는 AI 도구로서, 최근 업데이트와 함께 기업 비즈니스와 연구에 다양한 영향을 미치고 있습니다. RAG 시스템과의 연계성을 통해 AI 에이전트 구축의 효율성과 정확성을 높이는 데 중요한 역할을 하고 있으며, LangSmith를 통한 에이전트 평가 및 최적화 작업도 다루어졌습니다.

2. 초기 AI 도구 및 기술 개요

  • 2-1. AI 도구의 역사와 발전

  • AI 도구는 초기부터 발전을 거듭해왔으며, 지금은 비즈니스에 더 깊이 통합되고 있습니다. 예를 들어, 'Top 20 AI tools for business: Your 2024 AI toolbox' 문서에 따르면, AI는 이제 단순한 트렌드에서 벗어나고 있습니다. AI 도구를 구현하는 것은 데이터 관리, 모델 배포 및 워크플로우 오케스트레이션을 포함한 복잡한 지능형 워크플로우를 구축하는 것을 의미합니다. 주요 AI 도구들은 이를 통해 엔터프라이즈 환경에서 실질적인 변화를 제공하는 것입니다.

  • 2-2. 주요 AI 도구의 분류와 특징

  • 주요 AI 도구는 다양한 카테고리로 분류될 수 있습니다. 'Top 20 AI tools for business: Your 2024 AI toolbox' 문서에서 다음과 같은 카테고리가 언급됩니다: 1. 자연어 처리(NLP): 챗봇, 감정 분석 도구, 문서 처리 도구 등에 사용됩니다. 2. 전문가 시스템: 의료 진단이나 재무 계획과 같은 복잡한 의사결정 시나리오에서 사용됩니다. 3. 머신 러닝(ML): 데이터로부터 예측이나 결정을 학습하여 예측 분석, 사기 탐지, 개인화 엔진 등에 사용됩니다. 4. 컴퓨터 비전: 품질 관리, 보안 시스템, 자율 주행 차량 등에 사용됩니다. 5. 로보틱 프로세스 자동화(RPA): 반복 작업을 자동화하여 디지털 워크포스를 형성합니다. 6. 생성적 AI: 컨텐츠 생성, 코드 생성을 지원하며 GPT-4, Stable Diffusion, Suno, Sora와 같은 도구들이 이에 속합니다. 이 외에도 데이터 및 모델 관리, 특화된 서비스, 품질 보증, 모니터링 및 인프라, 워크플로우 오케스트레이션 및 통합 등의 도구들이 엔터프라이즈 환경에서 중요한 역할을 합니다.

3. LangChain과 LangGraph

  • 3-1. LangChain의 기능과 활용

  • LangChain은 AI 개발 공간에서 선도적인 플랫폼으로서 최신 업데이트를 발표했습니다. 여기에는 LangGraph Cloud, LangSmith의 자기개선 평가자, 새롭게 개편된 LangGraph 문서 등이 포함됩니다. LangSmith는 'LLM-as-Judge' 평가를 사람이 수정할 수 있도록 함으로써 평가의 정확성을 향상시키는 피드백 루프를 도입했습니다. LangGraph Cloud는 대규모 LLM 애플리케이션을 실행할 수 있도록 다목적 용도 사례를 확장하고 있으며, 자세한 예시와 가이드는 다양한 비디오 튜토리얼에서 확인할 수 있습니다.

  • 3-2. LangGraph의 개념과 응용

  • LangGraph는 확장 가능한 다목적 AI 에이전트 및 인지 아키텍처를 지원하는 프레임워크입니다. Recent 업데이트에서는 LangGraph Cloud라는 관리형, 호스팅 서비스가 도입되어 LangGraph 애플리케이션을 배포하고 호스팅할 수 있게 되었습니다. LangGraph는 여러 대화 턴이나 도구 호출 간 원활한 상태 관리를 지원하며, 동적 기준에 따라 노드 간 유연한 라우팅을 제공합니다. LangGraph Studio는 데이터 흐름을 시각화하고 메시지 전송을 통해 상호작용할 수 있는 환경을 제공하며, 코드 관찰, 디버깅 및 대화 흐름을 검사하는 강력한 도구입니다.

  • 3-3. LangChain과 LangGraph의 통합

  • LangChain과 LangGraph의 통합은 AI 에이전트가 다양한 작업을 동적으로 처리할 수 있는 복잡한 멀티 에이전트 흐름을 구축하는 데 적합합니다. 예를 들어, Fiverr의 기술 리드인 Elisha Kramer는 GPT Researcher 프런트엔드와 LangGraph Cloud 호스트를 통합하여, 다중 에이전트 워크플로우를 배포하고 API를 통해 쉽게 트리거할 수 있는 환경을 구축했습니다. 이 통합은 AI 에이전트가 고유의 관점을 교환하고 서로의 작업을 검토할 수 있는 협력적 에이전트 시스템을 개발하는 데 큰 도움이 되었습니다.

4. LangGraph의 구체적 사례와 응용

  • 4-1. LangGraph Cloud의 도입과 배포 사례

  • LangChain의 블로그 포스트에 따르면, LangChain은 LangGraph Cloud를 통해 다중 에이전트 흐름의 성공적인 배포를 발표했습니다. 이는 Assaf Elovic가 설계한 오픈 소스 GPT Researcher 프로젝트의 기능을 강화하고자 하는 노력의 일환입니다. GPT Researcher는 온라인 연구 작업을 위한 자율 에이전트로, GitHub에서 13,000개 이상의 스타를 받고 4,000명 이상의 개발자 커뮤니티를 보유하고 있습니다. 초기 RAG 구현의 성공 이후, 이제 LangGraph 프레임워크를 활용하여 다중 에이전트로 운영됩니다. 이러한 다중 에이전트 흐름은 LangSmith GUI를 통해 손쉽게 배포 및 편집이 가능하며, 간단한 API 호출을 통해 사용자 지정 매개변수로 작업을 트리거할 수 있습니다.

  • 4-2. LangGraph를 활용한 AI 에이전트 구축 예제

  • LangGraph는 복잡한 다중 에이전트 워크플로우의 구축을 가능하게 하는 프레임워크입니다. 예를 들어, Eden Marco는 LangGraph를 활용한 'Hello World' 검색 에이전트 예제를 통해 LangGraph의 기본 개념을 설명했습니다. 이 예제는 날씨 조건을 검색하고 보고하는 상태 기반 에이전트를 구축하는 과정을 포함합니다. 필요한 패키지를 설치하고 환경 변수를 설정한 후, LangGraph를 사용하여 상태 그래프를 생성하고 시각화할 수 있습니다. 이 과정에서 에이전트 노드와 도구 노드를 설정하고, 에이전트 노드가 초기에 진입점이 되어 조건부 엣지와 순환 엣지를 설정합니다.

  • 4-3. 산업별 LangGraph 활용 사례

  • LangGraph는 다양한 산업에서 활용되고 있으며, 특히 AI 에이전트 구축에 중요한 역할을 하고 있습니다. 예를 들어, LangGraph를 활용한 LLM 기반 응용 프로그램 개발은 Eden Marco의 ODSC Europe 발표에서 강조되었습니다. 이 발표에서는 생산 준비가 완료된 AI 에이전트를 구현하는 데 LangGraph가 어떻게 사용될 수 있는지에 대한 자세한 내용을 다루며, 자동화된 도구 호출과 상태 머신을 결합한 LLM의 통합이 주요 내용입니다. 이와 같은 통제된 플로우를 통해 개발자는 LLM의 강력한 추론 능력을 활용하면서도 응용 프로그램의 신뢰성과 제어를 유지할 수 있습니다.

5. RAG 시스템과 LangGraph

  • 5-1. RAG 시스템의 개념과 특징

  • RAG(Retrieval-Augmented Generation) 시스템은 사전 학습된 대형 언어 모델(LLM)과 외부 데이터 소스를 통합하는 가장 일반적인 방법으로 알려져 있습니다. RAG 시스템은 여러 데이터 출처에서 정보를 검색하고 이를 바탕으로 질의응답(Q&A) 형식의 결과를 생성합니다. 이러한 접근 방식은 대화 기록을 저장하고 향후 질의에 활용하는 특징이 있습니다. 또한, RAG 시스템은 기본적으로 특정 검색 방법을 활용한 고급 검색 시스템으로 볼 수 있습니다.

  • 5-2. RAG와 AI 에이전트의 융합

  • AI 에이전트는 다양한 작업을 자동으로 수행하는 소프트웨어로, 대형 언어 모델(LLM)을 활용합니다. 최근 AI 에이전트 분야에서는 LangChain과 LlamaIndex와 같은 기술이 주목을 받고 있습니다. 이 두 기술은 RAG 시스템을 기반으로 하여, 정보의 단순 검색을 넘어 실제 작업을 수행하고 여러 서비스와 상호 작용할 수 있는 에이전트 워크플로우를 구축하려는 노력을 하고 있습니다.

  • 5-3. LangGraph 기반 RAG 시스템 구축

  • LangGraph는 에이전트를 구축하기 위해 설계된 LangChain의 도구로, 맞춤형 인지 아키텍처를 설계할 수 있는 기능을 제공합니다. LangGraph는 '인간을 루프에 포함'하는 기능을 내장하고 있어 인간의 개입이 가능한 상호 작용 패턴을 지원합니다. 최신 버전인 LangGraph 0.1은 맞춤형 에이전트를 실제로 운영할 수 있는 기능을 제공하며, LangGraph Cloud를 통해 1-클릭 배포, 확장 가능한 서버 및 작업 큐, 통합 모니터링 등을 지원합니다. 이로 인해 OpenAI의 Assistants API와 같은 기존 플랫폼의 제한을 극복할 수 있습니다.

6. LangChain과 LangGraph의 최신 업데이트

  • 6-1. LangChain 및 LangGraph 최신 기능

  • LangGraph는 다중 에이전트 워크플로우를 구축하기 위한 라이브러리로, 최근 몇 달간 그 기능이 크게 향상되었습니다. LangGraph는 주로 LangChain Expression Language를 기반으로 여러 체인 또는 액터를 순환적인 방식으로 조정하여 다양한 계산 단계를 수행할 수 있도록 합니다. 최근 LangGraph Cloud가 소개되었으며, 이는 특히 LangGraph 애플리케이션을 빠르게 배포할 수 있도록 설계된 관리형 서비스입니다. 주요 기능으로는 수평적 확장성, 실시간 데이터 처리를 위한 동시 스트리밍 모드, 사람의 직관과 결정을 자동 프로세스에 반영하는 Human-in-the-Loop 기능 등이 있습니다.

  • 6-2. LangSmith를 통한 에이전트 평가와 최적화

  • LangGraph Cloud는 LangSmith와 직접 통합되어, LangGraph 애플리케이션의 기능을 API 엔드포인트를 통해 노출시킬 수 있는 어시스턴트를 지원합니다. 이를 통해 개발자는 에이전트 평가 및 최적화 작업을 보다 원활하게 수행할 수 있습니다. LangGraph는 조건부 분기와 루핑을 통해 단일 에이전트 또는 다중 에이전트 세트를 설계할 수 있습니다. 예를 들어, Replit 사는 LangGraph의 세밀한 제어 기능을 사용해 신뢰성 높은 코딩 에이전트를 제공하고 있습니다.

  • 6-3. 신규 기능 발표와 향후 일정

  • LangGraph v0.1이 출시되었으며, 이는 에이전트 워크플로우의 정밀성과 제어를 향상시키기 위한 여러 기능을 포함하고 있습니다. 신규 기능으로 LangGraph Studio가 도입되어 에이전트의 궤적을 시각화하고, 오류를 디버깅하며, 상태 편집 및 시간 여행 기능을 추가할 수 있게 되었습니다. LangGraph Cloud의 경우, 현재 클로즈드 베타 상태로 사용자가 점차 확대되면서 안정적인 확장성과 오류 내성을 갖춘 인프라를 제공하고 있습니다.

7. AI 에이전트와 인지 아키텍처

  • 7-1. 인지 아키텍처의 정의와 중요성

  • 인지 아키텍처라는 용어는 AI 커뮤니티 내에서 특히 LLM(대형 언어 모델) 및 해당 적용에 대한 논의에서 주목을 받고 있습니다. 인지 아키텍처는 시스템이 코드, 프롬프트 및 LLM 호출의 구조화된 흐름을 통해 입력을 처리하고 출력을 생성하는 방법을 나타냅니다. 이 용어는 Flo Crivello에 의해 처음 소개되었으며, LLM의 추론 기능과 전통적인 엔지니어링 원리를 포함하는 시스템의 사고 과정을 설명합니다. 인지 아키텍처는 에이전트 시스템을 뒷받침하는 인지 프로세스와 아키텍처 설계의 혼합을 요약합니다.

  • 7-2. LangChain을 활용한 인지 아키텍처 실험

  • AI 시스템에서 인지 아키텍처를 이해하고 구축하는 데 있어, LangChain은 중요한 역할을 합니다. LangChain은 처음에는 사용하기 쉬운 체인에 중점을 두었으나, 더 맞춤화 가능한 낮은 수준의 오케스트레이션 프레임워크를 제공하도록 발전해왔습니다. 간단한 체인 및 검색 흐름을 위해서는 LangChain의 Python 및 JavaScript 버전이 추천되며, 이러한 도구를 통해 개발자는 애플리케이션의 인지 아키텍처를 보다 효과적으로 제어할 수 있습니다. 이를 통해 효율적이고 효과적인 LLM 기반 시스템을 개발하는 데 필요한 실험을 촉진할 수 있습니다.

  • 7-3. LangGraph를 통한 인지 아키텍처 최적화

  • LangGraph는 더 복잡한 작업 흐름을 위한 고급 기능을 제공합니다. 예를 들어, 의료 시스템에서 AI 에이전트는 환자의 의료 기록, 테스트 결과 및 실시간 모니터링 장치에서 수집된 데이터를 분석합니다. 이러한 AI 에이전트는 환자가 특정 질병을 개발할 가능성을 예측하거나 환자의 의료 기록과 현재 건강 상태를 기반으로 맞춤형 치료 계획을 추천하는 결정을 내립니다. LangGraph는 기존의 단순한 정보 검색과 생성 모델을 결합하는 RAG (Retrieval-Augmented Generation) 애플리케이션보다 AI 에이전트의 자율성과 유연성을 높이는 데 중요한 역할을 할 수 있습니다.

8. 커뮤니티와 업계 동향

  • 8-1. LangChain과 LangGraph의 커뮤니티 움직임

  • LangGraph와 LangChain은 최근 몇 년간 자율적인 AI 에이전트에 대한 관심이 급증함에 따라 개발자와 연구자들의 상상력을 사로잡았습니다. 그러나 완전 자율 에이전트는 실제 응용에 있어 종종 한계를 드러냈습니다. 이러한 상황에서 LangGraph는 LangChain 팀에 의해 개발된 새로운 패러다임으로, 대규모 언어 모델(LLM)의 자유도를 제어 가능한 범위로 좁히고자 했습니다. 이는 개발자가 실행 흐름을 명확하게 정의하고 전통적인 소프트웨어 엔지니어링 기법의 신뢰성과 결합하여 더 적합한 생산 환경을 제공합니다.

  • 8-2. AI 에이전트와 인지 아키텍처 관련 행사 및 이벤트

  • LangGraph의 주요 발표자로는 ODSC Europe 2024에서 'LangChain과 LangGraph를 활용한 LLM 애플리케이션 개발' 세션을 진행할 Eden Marco가 있습니다. 이 세션에서는 LangGraph의 기본 개념을 포함한 다양한 복잡한 에이전트 아키텍처 구현에 대한 심도 있는 기술이 다뤄질 예정입니다. 또한, LangChain과 LangGraph 기반의 다양한 연구 개발 활동들이 어떻게 실제 산업에 적용되고 있는지에 대한 예시들도 공유됩니다.

  • 8-3. 기타 AI 관련 최신 뉴스와 동향

  • LangChain, LangGraph, 그리고 LangSmith는 AI 기술 혁신의 중심에 서 있으며, 이들 도구들은 LLM 애플리케이션 개발, 디버깅, 실시간 상호 작용 등의 다양한 기능을 통해 AI 개발 프로세스를 획기적으로 개선하고 있습니다. 이러한 도구들을 통해 기업들은 운영 효율성을 높이고, 고객 상호 작용을 강화하며, 개인화된 경험을 제공하는 솔루션을 개발할 수 있습니다. 특히, LangGraph는 다중 에이전트 간 협력을 가능하게 하여 복잡한 대화 관리 시스템 구축에 유용합니다.

9. 결론

  • 이 리포트는 LangChain과 LangGraph를 중심으로 한 다양한 AI 도구와 프레임워크가 현재 비즈니스와 연구에 어떤 영향을 미치고 있는지에 대해 논의했습니다. 주요 발견 중 하나는 LangGraph와 LangChain의 최신 기능과 실제 사용 사례가 포함되어 있으며, 특히 RAG 시스템과의 통합을 통한 AI 에이전트의 효율성 향상 가능성을 강조했습니다. LangGraph는 다중 에이전트 및 상태 기반 AI 에이전트 구축에 필수적인 도구로 자리 잡고 있으며, LangSmith를 통해 에이전트의 평가와 최적화를 원활하게 진행할 수 있습니다. 리포트는 또한 인지 아키텍처의 중요성을 강조하고, 이를 실험하고 최적화할 수 있는 LangChain과 LangGraph의 활용 방안을 제시했습니다. 한계는 향후 베타 테스트와 같은 추가 연구와 검토가 필요하다는 점이지만, 현재 AI 기술 발전에 큰 기여를 하고 있으며, 앞으로 더욱 발전될 전망입니다.

10. 용어집

  • 10-1. LangChain [소프트웨어 프레임워크]

  • LangChain은 AI 개발을 위한 종합 도구로, 프로토타이핑, 커스터마이징, 협업에 강점을 보입니다. LangChain을 통해 개발자는 LLM(대규모 언어 모델)을 보다 손쉽게 다룰 수 있습니다.

  • 10-2. LangGraph [AI 프레임워크]

  • LangGraph는 다중 에이전트 및 에이전틱 애플리케이션 구축을 지원하는 라이브러리입니다. 상태 기계를 사용하여 복잡한 에이전트 아키텍처를 구현할 수 있으며, LangGraph Cloud를 통해 손쉽게 배포하고 관리할 수 있습니다.

  • 10-3. RAG (Retrieval-Augmented Generation) [AI 기술]

  • RAG는 정보 검색 기법을 통해 LLM 모델의 성능을 향상시키는 기술입니다. RAG 시스템은 검색된 정보를 바탕으로 더 정확하고 관련성 높은 응답을 생성합니다.

  • 10-4. LangSmith [소프트웨어 도구]

  • LangSmith는 LLM 개발과 디버깅을 지원하는 통합 플랫폼입니다. 이를 통해 개발자는 AI 시스템의 평가와 최적화를 용이하게 할 수 있습니다.

11. 출처 문서