ODBIERZ TWÓJ BONUS :: »

LLM-y od środka. Wyzwania i tworzenie otwartoźródłowych rozwiązań za pomocą AI Thársis T. P. Souza, Jonathan K. Regenstein Jr.

LLM-y od środka. Wyzwania i tworzenie otwartoźródłowych rozwiązań za pomocą AI Thársis T. P. Souza, Jonathan K. Regenstein Jr. - okladka książki

LLM-y od środka. Wyzwania i tworzenie otwartoźródłowych rozwiązań za pomocą AI Thársis T. P. Souza, Jonathan K. Regenstein Jr. - okladka książki

LLM-y od środka. Wyzwania i tworzenie otwartoźródłowych rozwiązań za pomocą AI Thársis T. P. Souza, Jonathan K. Regenstein Jr. - audiobook MP3

LLM-y od środka. Wyzwania i tworzenie otwartoźródłowych rozwiązań za pomocą AI Thársis T. P. Souza, Jonathan K. Regenstein Jr. - audiobook CD

Autorzy:
Thársis T. P. Souza, Jonathan K. Regenstein Jr.
Wydawnictwo:
Helion
Ocena:
Stron:
302
Druk:
oprawa miękka

Duże modele językowe (LLM) to jeden z najgorętszych tematów we współczesnym IT. ChatGPT, Claude, Gemini czy Mistral zrewolucjonizowały przetwarzanie języka naturalnego i otworzyły drzwi do tysięcy nowych zastosowań biznesowych. Jednak za ich fascynującymi możliwościami kryją się poważne wyzwania techniczne: halucynacje, niespójne wyniki, luki w zabezpieczeniach i trudności z wdrażaniem produkcyjnym. Rynek aplikacji opartych na LLM-ach rozwija się w zawrotnym tempie, a zapotrzebowanie na inżynierów, którzy potrafią budować niezawodne, bezpieczne i dopasowane do wymagań biznesowych systemy AI, stale rośnie. Ta książka odpowiada na te potrzeby koncentruje się nie na tym, co LLM-y potrafią, lecz na ich ograniczeniach i sposobach, w jakie można sobie z nimi radzić.

Publikacja prowadzi czytelnika przez cały cykl życia aplikacji opartych na dużych modelach językowych (LLMBA): od strategicznego planowania i wyboru modelu, przez ewaluację niedeterministycznych systemów z wykorzystaniem wskaźników BLEU, ROUGE i podejścia LLM-as-a-Judge, aż po zaawansowane techniki zarządzania kontekstem, RAG i tworzenia ustrukturyzowanych danych wyjściowych. Osobne rozdziały poświęcono bezpieczeństwu jailbreakingowi, wstrzykiwaniu promptów, benchmarkom SALAD-Bench i HarmBench a także zgodności modeli z wartościami organizacji przy użyciu algorytmów RLHF i DPO. Całość uzupełnia praktyczny przegląd narzędzi otwartoźródłowych: LangSmith, Promptfoo, LightEval, Ollama, llama.cpp i llamafile, z reprodukowalnymi przykładami kodu w Pythonie.

Najważniejsze zagadnienia:

  • Ewaluacja i testowanie niedeterministycznych systemów LLM z użyciem wskaźników ilościowych i podejścia LLM-as-a-Judge
  • Zarządzanie kontekstem, strategie RAG, dzielenie dokumentów na fragmenty i zastosowanie modeli z długim oknem kontekstowym
  • Generowanie ustrukturyzowanych danych wyjściowych z kontrolą formatu (Pydantic, Outlines, Ollama)
  • Ocena bezpieczeństwa modeli z wykorzystaniem benchmarków SALAD-Bench, TruthfulQA i HarmBench, a także zabezpieczeń działających w czasie wykonywania, takich jak Llama Guard i NeMo
  • Dostosowywanie modeli do zasad organizacji przy użyciu RLHF, DPO i biblioteki TRL
  • Lokalne wdrażanie LLM-ów i kwantyzacja modeli przy użyciu llama.cpp, Ollamy i llamafile

Twórz aplikacje oparte na LLM-ach, którym możesz zaufać w produkcji!

Aplikacje oparte na modelach LLM łatwo przygotować w wersji demonstracyjnej, ale trudno je wdrożyć do środowiska produkcyjnego. Ta książka skupia się na tej kwestii.

Didier Rodrigues Lopes, założyciel i prezes OpenBB

Ten niezbędny przewodnik wyposaża czytelników na każdym poziomie zaawansowania w narzędzia pozwalające skutecznie poruszać się w świecie LLM-ów.

Sudheer Chava, profesor Georgia Tech, dyrektor Financial Services Innovation Lab

Selling  helion.pl
nformacja o grafice AI Informacja o grafice AI Wybrane elementy graficzne tej sekcji powstały przy wsparciu AI

O autorach książki

Thársis T.P. Souza doktor informatyki UCL, lider produktu AI, były menedżer w funduszach hedgingowych na Wall Street i startupach z Doliny Krzemowej. Twórca podcastfy.ai i wykładowca na Uniwersytecie Columbia.

Jonathan K. Regenstein jr pracownik naukowy Financial Services Innovation Lab w Georgia Tech, doradca firm z branży AI. Absolwent Harvardu i NYU School of Law.

Helion - inne książki

Zamknij

Przenieś na półkę
Dodano produkt na półkę
Usunięto produkt z półki
Przeniesiono produkt do archiwum
Przeniesiono produkt do biblioteki
Proszę czekać...
ajax-loader

Zamknij

Wybierz metodę płatności

Zamknij Pobierz aplikację mobilną Ebookpoint