Syntax:
Protože známe ChatGPT, víme, že tuto platformu vlastní komunita Open AI a poskytuje nástroje, architektury, API a několik frameworků, které můžeme využít při nasazení našich aplikací a modelů zpracování přirozeného jazyka. Otevřená umělá inteligence nabízí rozhraní API, pomocí kterých můžeme použít jakékoli předem vycvičené modely umělé inteligence a NLP z platformy Open AI a zajistit, aby fungovaly pro naše aplikace, jako je například poskytování předpovědí na datech v reálném čase. GPT4All rovněž svým uživatelům umožňuje integrovat své předem vycvičené modely umělé inteligence s různými aplikacemi.
Model GPT4All je trénován na omezených datech ve srovnání s ChatGPT. Má také některá omezení výkonu ve srovnání s ChatGPT, ale umožňuje uživateli používat svůj soukromý GPT na místním hardwaru a nevyžaduje žádná síťová připojení. S pomocí tohoto článku se seznámíme s tím, jak můžeme používat modely GPT4All ve skriptu Python, protože GPT4All má oficiální vazby s Pythonem, což znamená, že můžeme používat a integrovat modely GPT4All také prostřednictvím skriptu Python.
Vše vyžaduje online příkaz k instalaci GPT4All pro Python IDE. Pak můžeme integrovat tolik modelů AI, kolik je našich aplikací. Příkaz k instalaci tohoto GPT4All v Pythonu je znázorněn níže:
$ pip nainstalovat gpt4all
Příklad 1:
Abychom mohli začít s tímto příkladem, musíme si stáhnout a nainstalovat Python do našich systémů. Doporučené verze Pythonu jsou „verze 3.7“ nebo verze, které přišly po této verzi. Dalším způsobem, jak pracovat s Pythonem, abychom se vyhnuli dlouhému procesu instalace „nastavení Pythonu“ do našich systémů, je použití „Google Colab“, což je cloudové prostředí pro Python. Toto prostředí můžeme provozovat na jakémkoli webovém prohlížeči a můžeme sestavit modely umělé inteligence a strojového učení. Příklady, které zde budeme implementovat, jsou spuštěny v Google Colab.
Tento příklad popisuje způsob instalace GPT4All v Pythonu a jak používat jeho předtrénované modely. Začneme nejprve instalací GPT4All. Za tímto účelem se provede příkaz, který jsme již zmínili. Po provedení příkazu se GPT4All spolu s jeho balíčky a frameworky stáhne a nainstaluje.
Nyní se posuneme vpřed. Z GPT4All importujeme „GPT4All“. Tím se do projektu přidají všechny předem vycvičené modely z GPT4All. Nyní můžeme použít jakýkoli jednotlivý model a udělat z něj předpovědi pro naši aplikaci. Jakmile importujeme balíček GPT4All, je nyní čas zavolat tuto funkci a použít model GPT4All, který poskytuje výstup pro „dokončení chatu“.
Jinými slovy, pokud se na vstupu zeptáme na něco z tohoto modelu, vrátí to na výstupu. Model, který zde používáme, je „ggml-gpt4all-j-v1.3-groovy“. Tyto modely jsou již uloženy v mezipaměti GPT4All. Tyto modely můžeme získat z tohoto odkazu “ https://github.com/nomic-ai/gpt4all/tree/main/gpt4all-chat “ pro ruční stažení. Pokud je model již přítomen v mezipaměti GPT4All, jednoduše zavoláme název modelu a uvedeme jej jako vstupní parametry funkce „GPT4All()“. Pokud jsme jej úspěšně stáhli ručně, předáme cestu ke složce, kde se model nachází. Protože tento model je určen pro dokončování zpráv, je syntaxe tohoto modelu uvedena následovně:
$ Chat_completion (zprávy)Zprávy jsou seznamem slovníků a každý slovník by měl obsahovat klíč „role“ s hodnotou uživatele, systému nebo asistenta a obsah „klíč“, který má hodnotu jako řetězec. V tomto příkladu specifikujeme obsah jako „pojmenujte tři barvy“ a klíč role jako „uživatel“.
$model= GPT4All('ggml-gpt4all-j-v1.3-groovy')$messages = [{'role': 'user', 'content': 'Vyjmenuj 3 květiny'}]
Po této specifikaci zavoláme s modelem funkci „chat_completion()“. Kód pro to se zobrazí v následujícím výstupu:
$ !pip nainstalovat gpt4allz gpt4all import GPT4All
model = GPT4All('ggml-gpt4all-j-v1.3-groovy')
messages = [{'role': 'user', 'content': 'Vyjmenuj tři barvy'}]
model.chat_completion(zprávy)
Po provedení tohoto příkladu model vrátí tři barvy jako odpověď na vstup.
Příklad 2:
Pokryjeme další příklad, kde objevíme další metodu použití GPT4All v Pythonu. To lze provést pomocí oficiálních vazeb pro Python, které poskytuje „Nomic“, což je komunita AI s otevřeným zdrojovým kódem a provozuje GPT4All. Pomocí následujícího příkazu integrujeme „nomic“ do naší konzole Python:
$ pip install nomicJakmile je toto nainstalováno, importujeme GPT4All z „nomic.gpt4all“. Po importu GPT4All inicializujeme GPT4All funkcí „open()“. Poté zavoláme funkci „prompt()“ a této funkci předáme výzvu. Poté je vygenerována výzva na základě výzvy, kterou jsme zadali jako vstup do modelu výzvy.
!pip install nomicz nomic.gpt4all import GPT4All
# Inicializujte model GPT4All
zahájit = GPT4All()
initial.open()
# Generování odpovědi na základě výzvy
model_response = begin.prompt('napiš povídku o počítači)
# zobrazení vygenerované odpovědi
print(model_response)
Výstup zobrazuje okamžitou odpověď z modelu, který jsme vygenerovali pomocí předem trénovaného modelu GPT4All v Pythonu. Pokud se chceme dozvědět více o modelech a jak můžeme tyto modely použít ke generování odpovědí, nebo jednoduše řečeno, chceme-li získat znalosti o syntaxi pro generování odpovědí z těchto modelů, můžeme využít další pomoc od GPT4Všechny podrobnosti technické dokumentace.
Závěr
GPT4All se stále snaží dosáhnout přesnosti výkonu. Je provozován nomickou platformou AI, která se zaměřuje na poskytování uměle inteligentních chatbotů svým uživatelům na spotřebitelských CPU, protože GPT4All funguje bez jakéhokoli síťového připojení a GPU. Tento článek nás objasňuje, abychom dovedně používali PyGPT4All v prostředí Pythonu a vytvořili interakci mezi našimi aplikacemi a předem trénovanými modely AI GPT4All. V této příručce jsme se zabývali dvěma různými způsoby instalace GPT4All v Pythonu.