Jak vybudovat LLM a LLMChain v LangChain?

LangChain je rámec s aplikací v doméně Natural Language Processing nebo NLP pro vytváření modelů v jazycích podobných lidem. Tyto modely mohou lidé použít k získání odpovědí z modelu nebo ke konverzaci jako kterýkoli jiný člověk. LangChain se používá k vytváření řetězců uložením každé věty v konverzaci a další interakcí s jejím použitím jako kontextu.

Tento příspěvek bude ilustrovat proces budování LLM a LLMChain v LangChain.

Jak vybudovat LLM a LLMChain v LangChain?

Chcete-li vybudovat LLM a LLMChain v LangChain, jednoduše projděte uvedenými kroky:

Krok 1: Nainstalujte moduly

Nejprve nainstalujte modul LangChain, abyste mohli používat jeho knihovny pro vytváření LLM a LLMChain:

pip install langchain

Dalším modulem, který je nutný k sestavení LLM, je OpenAI a lze jej nainstalovat pomocí příkazu pip:

pip install openai

Krok 2: Nastavte prostředí

Nastavte prostředí pomocí klíče OpenAI API z jeho prostředí:

importujte nás
import getpassos.environ['OPENAI_API_KEY'] = getpass.getpass('Klíč OpenAI API:')

Příklad 1: Sestavte LLM pomocí LangChain

Prvním příkladem je vytvoření velkých jazykových modelů pomocí LangChain importem knihoven OpenAI a ChatOpenAI a funkcí use llm():

Krok 1: Použití modelu chatu LLM

Importujte moduly OpenAI a ChatOpenAI a vytvořte jednoduchý LLM pomocí prostředí OpenAI z LangChain:

z langchain.chat_models importujte ChatOpenAI

z langchain.llms importujte OpenAI

llm = OpenAI()
chat_model = ChatOpenAI()
llm.predict('ahoj!')

Model odpověděl odpovědí „ahoj“, jak je zobrazeno na následujícím snímku obrazovky:

Funkce predikce() z chat_model se používá k získání odpovědi nebo odpovědi z modelu:

chat_model.predict('ahoj!')

Výstup zobrazuje, že model je k dispozici uživateli, který se ptá:

Krok 2: Použití textového dotazu

Uživatel může také získat odpovědi z modelu zadáním celé věty do textové proměnné:

text = 'Jaký by byl dobrý název společnosti pro společnost, která vyrábí barevné ponožky?'

llm.predict(text)

Model zobrazuje několik barevných kombinací pro barevné ponožky:

Získejte podrobnou odpověď od modelu pomocí funkce forecast() s barevnými kombinacemi ponožek:

chat_model.predict(text)

Krok 3: Použití textu s obsahem

Uživatel může získat odpověď s malým vysvětlením odpovědi:

z langchain.schema import HumanMessage

text = 'Jaký by byl dobrý název pro společnost vyrábějící barevné oblečení'
zprávy = [HumanMessage(content=text)]

llm.predict_messages(zprávy)

Model vygeneroval název společnosti, který je „Creative Clothing Co“:

Předpovězte zprávu, abyste získali odpověď na název společnosti s vysvětlením:

chat_model.predict_messages(zprávy)

Příklad 2: Sestavte LLMCain pomocí LangChain

Druhý příklad našeho průvodce staví LLMChain, aby model získal ve formátu lidské interakce, aby zkombinoval všechny kroky z předchozího příkladu:

z langchain.chat_models importujte ChatOpenAI
z langchain.prompts.chat importujte šablonu ChatPromptTemplate
z langchain.prompts.chat importujte šablonu ChatPromptTemplate
from langchain.prompts.chat import SystemMessagePromptTemplatefrom langchain.prompts.chat import HumanMessagePromptTemplate
z langchain.chains importujte LLMCain
from langchain.schema import BaseOutputParserclass CommaSeparatedListOutputParser(BaseOutputParser):

def parse(self, text: str):
vrátit text.strip().split(', ')

Vytvořte šablonu pro model chatu podrobným vysvětlením jeho fungování a poté vytvořte funkci LLMChain() obsahující knihovny LLM, výstupní analyzátor a chat_prompt:

template = '''Musíte pomoci s generováním seznamů oddělených čárkami
Získejte kategorii od uživatele a vygenerujte seznam s pěti objekty oddělenými čárkami
Jedinou věcí by měl být objekt z kategorie'''
system_message_prompt = SystemMessagePromptTemplate.from_template(šablona)
human_template = '{text}'
human_message_prompt = HumanMessagePromptTemplate.from_template(human_template)
#Nakonfigurujte LLMChain se strukturou dotazu
chat_prompt = ChatPromptTemplate.from_messages([system_message_prompt, human_message_prompt])
řetěz = LLMChain(
llm=ChatOpenAI(),
prompt=chat_prompt,
output_parser=CommaSeparatedListOutputParser()
)
chain.run('barvy')

Model poskytl odpověď se seznamem barev, protože kategorie by měla obsahovat pouze 5 objektů uvedených ve výzvě:

To je vše o budování LLM a LLMChain v LangChain.

Závěr

Chcete-li vytvořit LLM a LLMCain pomocí LangChain, stačí nainstalovat moduly LangChain a OpenAI a nastavit prostředí pomocí jeho klíče API. Poté vytvořte model LLM pomocí chat_model po vytvoření šablony výzvy pro jeden dotaz na úplný chat. LLMChain se používají k vytváření řetězců všech pozorování v konverzaci a používají je jako kontext interakce. Tento příspěvek ilustruje proces budování LLM a LLMChain pomocí rámce LangChain.

Jak vybudovat LLM a LLMChain v LangChain?