인공지능에 대한 카테고리 입니다.
소개 언어 모델(LM)은 자연어 이해 및 생성에 있어 방대한 기능을 제공하면서 기계 학습과 상호 작용하는 방식을 변화시켰습니다. 그러나 이러한 모델이 도메인별 제약 조건을 준수하도록 하는 것은 여전히 어려운 과제입니다. 미세 조정이나 ‘프롬프트 엔지니어링’과 같은 기술의 성장에도 불구하고 이러한 접근 방식은 매우 지루하며, LM이 특정 제약 조건을 준수하도록 안내하기 위해 무거운 수작업에 의존합니다. DSPy의 모듈식 프로그래밍 … Read more
DSPy optimizer은 정확도 등 사용자가 지정한 메트릭을 최대화하기 위해 DSPy 프로그램의 매개변수(예: 프롬프트 및/또는 LM 가중치)를 조정할 수 있는 알고리즘입니다. DSPy에는 매우 다양한 전략을 적용하는 많은 기본 제공 optimizer 도구가 있습니다. 일반적인 DSPy optimizer 도구는 세 가지를 사용합니다: 많은 데이터를 보유하고 있다면 DSPy를 활용할 수 있습니다. 하지만 소규모로 시작하여 강력한 결과를 얻을 수 있습니다. 참고: 이전에는 … Read more
메트릭은 데이터에서 예시를 가져와 시스템의 출력을 가져와 그 출력이 얼마나 좋은지 정량화한 점수를 반환하는 함수일 뿐입니다. 무엇이 시스템의 출력을 좋거나 나쁘게 만들까요?
간단한 작업의 경우 ‘정확도’ 또는 ‘정확히 일치’ 또는 ‘F1 점수’가 될 수 있습니다. 간단한 분류나 짧은 형식의 QA 작업이 이에 해당할 수 있습니다.
그러나 대부분의 애플리케이션의 경우, 시스템은 긴 형식의 결과물을 출력합니다. 여기서 메트릭은 아마도 출력의 여러 속성을 검사하는 더 작은 DSPy 프로그램일 것입니다(아마도 LM의 AI 피드백을 사용할 수도 있습니다).
DSPy는 머신 러닝 프레임워크이므로 이 프레임워크에서 작업하려면 학습 세트, 개발 세트, 테스트 세트가 필요합니다.
데이터의 각 예제에 대해 일반적으로 입력, 중간 레이블, 최종 레이블의 세 가지 유형의 값을 구분합니다. 중간 레이블이나 최종 레이블 없이도 DSPy를 효과적으로 사용할 수 있지만, 최소한 몇 가지 예제 입력이 필요합니다.
DSPy에서 LM에 작업을 할당할 때 필요한 동작을 Signature로 지정합니다. Signature는 DSPy 모듈의 입출력 동작에 대한 선언적 사양입니다. Signature를 사용하면 LM에 작업을 요청하는 방법을 지정하는 대신 LM이 수행해야 할 작업을 알려줄 수 있습니다. 입력 및 출력 인자와 그 유형을 지정하는 함수 Signature에 익숙하실 것입니다. DSPy Signature은 비슷하지만 차이점이 있습니다: 일반적인 함수 Signature는 사물을 설명하는 데 그치지만, … Read more
DSPy Building Blocks-8단계로 DSPy 사용하기
LM 파이프라인 구축 및 최적화를 위한 DSPy 시작하는 방법을 안내합니다. Installation 또는 Google Colab에서 인트로 노트북을 열어보세요: https://colab.research.google.com/github/stanfordnlp/dspy/blob/main/intro.ipynb 기본적으로 DSPy는 openai==0.28에 의존합니다. 그러나 openai>=1.0을 설치하면 라이브러리에서 이를 그대로 사용합니다. 두 가지 모두 지원됩니다. 선택 사항인 Pinecone, Qdrant, ChromaDB, Marqo 또는 Milvus 검색 통합의 경우 아래 추가 항목을 포함하세요: INSTALLATION COMMAND No Extra: Pinecone Qdant ChromaDB … Read more
