Jak spustit LLMCains v LangChain?

LangChain je rámec, který umožňuje vývojářům vytvářet velké jazykové modely nebo chatovací modely, které mohou lidé používat k získávání informací. Tyto modely lze použít k interakci v přirozených jazycích poté, co pochopíte příkazy pro odpovídající generování textů. LLM nebo chatboti používají řetězce k interakci s lidmi tím, že ukládají předchozí zprávy jako pozorování, aby získali kontext chatu.

Tato příručka bude ilustrovat proces spuštění LLMChains v LangChain.

Jak spustit LLMCains v LangChain?

LangChain poskytuje funkce nebo závislosti pro vytváření LLMChain pomocí LLM/Chatbotů a šablon výzvy. Chcete-li se naučit proces vytváření a provozování LLMCains v LangChain, jednoduše postupujte podle následujícího průvodce:

Krok 1: Nainstalujte balíčky

Nejprve začněte s procesem instalací modulu LangChain, abyste získali jeho závislosti pro vytváření a provozování LLMChains:

pip install langchain

Nainstalujte rámec OpenAI pomocí příkazu pip, aby knihovny mohly používat funkci OpenAI() pro vytváření LLM:

pip install openai

Po instalaci modulů jednoduše nastavit prostředí proměnné pomocí klíče API z účtu OpenAI:

import vy

import getpass

vy . přibližně [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'Klíč OpenAI API:' )

Krok 2: Import knihoven

Jakmile je nastavení dokončeno a jsou nainstalovány všechny požadované balíčky, importujte požadované knihovny pro vytvoření šablony výzvy. Poté jednoduše vytvořte LLM pomocí metody OpenAI() a nakonfigurujte LLMChain pomocí šablony LLM a výzvy:

z langchain import PromptTemplate

z langchain import OpenAI

z langchain import LLMCain

prompt_template = 'Dejte mi dobrý název pro firmu, která vyrábí {produkt}?'

llm = OpenAI ( teplota = 0 )

llm_chain = LLMCain (

llm = llm ,

výzva = PromptTemplate. from_template ( prompt_template )

)

llm_chain ( 'barevné oblečení' )

Krok 3: Běžící řetězy

Získejte vstupní seznam obsahující různé produkty vyráběné firmou a spusťte řetězec, aby se seznam zobrazil na obrazovce:

input_list = [
{ 'produkt' : 'ponožky' } ,
{ 'produkt' : 'počítač' } ,
{ 'produkt' : 'obuv' }
]

llm_chain. aplikovat ( input_list )

Spusťte metodu create() pomocí input_list s LLMChains, abyste získali výstup související s konverzací generovanou modelem:

llm_chain. generovat ( input_list )

Krok 4: Použití jednoho vstupu

Přidejte další produkt ke spuštění LLMCains pomocí pouze jednoho vstupu a poté předpovězte LLMCain pro generování výstupu:

llm_chain. předpovědět ( produkt = 'barevné ponožky' )

Krok 5: Použití více vstupů

Nyní vytvořte šablonu pro použití více vstupů pro poskytnutí příkazu modelu před spuštěním řetězce:

šablona = '''Řekni mi vtip s {přídavným jménem} o {předmětu}.'''
výzva = PromptTemplate ( šablona = šablona , vstupní_proměnné = [ 'přídavné jméno' , 'předmět' ] )
llm_chain = LLMCain ( výzva = výzva , llm = OpenAI ( teplota = 0 ) )

llm_chain. předpovědět ( přídavné jméno = 'smutný' , předmět = 'Kachny' )

Krok 6: Použití výstupního analyzátoru

Tento krok používá metodu výstupního analyzátoru ke spuštění LLMChain, aby získal výstup na základě výzvy:

z langchain. výstupní_analyzátory import CommaSeparatedListOutputParser

output_parser = CommaSeparatedListOutputParser ( )

šablona = '''Seznam všech barev v duze'''

výzva = PromptTemplate ( šablona = šablona , vstupní_proměnné = [ ] , output_parser = output_parser )

llm_chain = LLMCain ( výzva = výzva , llm = llm )

llm_chain. předpovědět ( )

Použití metody parse() k získání výstupu vygeneruje čárkami oddělený seznam všech barev v duze:

llm_chain. predikovat_a_analyzovat ( )

Krok 7: Inicializace z řetězců

Tento krok vysvětluje proces použití řetězce jako výzvy ke spuštění LLMChain pomocí modelu a šablony LLM:

šablona = '''Řekni mi vtip s {přídavným jménem} o {předmětu}'''

llm_chain = LLMCain. z_řetězce ( llm = llm , šablona = šablona )

Zadejte hodnoty proměnných ve výzvě řetězce, abyste získali výstup z modelu spuštěním LLMChain:

llm_chain. předpovědět ( přídavné jméno = 'smutný' , předmět = 'Kachny' )

To je vše o provozování LLMChains pomocí rámce LangChain.

Závěr

Chcete-li sestavit a spustit LLMCains v LangChain, nainstalujte předpoklady, jako jsou balíčky, a nastavte prostředí pomocí klíče API OpenAI. Poté naimportujte požadované knihovny pro konfiguraci šablony výzvy a modelu pro spuštění LLMChain pomocí závislostí LangChain. Uživatel může použít výstupní analyzátory a řetězcové příkazy ke spuštění LLMChains, jak je ukázáno v příručce. Tato příručka rozpracovala kompletní proces provozování LLMChains v LangChain.

Jak spustit LLMCains v LangChain?