LLM w środowisku produkcyjnym. Serwowanie, optymalizacja i hosting na dużą skalę Chi Wang, Peiheng Hu
- Autorzy:
- Chi Wang, Peiheng Hu
- Wydawnictwo:
- Helion
- Ocena:
- Stron:
- 341
- Druk:
- oprawa miękka
Opis
książki
:
LLM w środowisku produkcyjnym. Serwowanie, optymalizacja i hosting na dużą skalę
Wdrażaj i optymalizuj modele LLM szybko, tanio i na dużą skalę
Rewolucja sztucznej inteligencji sprawiła, że duże modele językowe (LLM) z ciekawostek badawczych stały się krytyczną infrastrukturą produkcyjną. Obecnie największym wyzwaniem dla firm IT nie jest już samo trenowanie modeli, ale ich wydajne, bezpieczne i opłacalne wdrażanie. W erze agentów AI i w obliczu rosnących kosztów korzystania z publicznych API organizacje coraz częściej decydują się na hosting własnych rozwiązań. Ta książka stanowi kompleksowy przewodnik po serwowaniu i optymalizacji LLM. Wypełnia lukę między teorią a praktyką, pokazując, jak przekuć potężne modele w niezawodne aplikacje działające w czasie rzeczywistym, a przy tym poradzić sobie z nową fizyką i ekonomią generatywnej sztucznej inteligencji.
Ta publikacja krok po kroku przeprowadza czytelnika przez cykl życia modelu w środowisku produkcyjnym. Autorzy demistyfikują architekturę transformerów, szczegółowo omawiając fazy wstępnego wypełniania (prefill) i dekodowania, jak również zarządzanie pamięcią podręczną KV. Książka uczy projektowania systemów dla pojedynczych i wielu modeli, a także wdrażania zaawansowanych technik optymalizacji: ciągłego przetwarzania wsadowego, kwantyzacji, dekodowania spekulatywnego czy buforowania prefiksów. Czytelnik dowie się, jak skutecznie używać nowoczesnych frameworków (w tym vLLM, TensorRT-LLM, SGLang, llama.cpp) i jak skalować infrastrukturę na wiele procesorów graficznych (GPU) i węzłów przy zachowaniu idealnego balansu między przepustowością, opóźnieniami a kosztami operacyjnymi.
Najważniejsze zagadnienia:
- Architektura LLM i mechanizmy generowania tokenów
- Zarządzanie pamięcią KV i ciągłe przetwarzanie wsadowe
- Projektowanie systemów serwowania
- Zaawansowana optymalizacja
- Skalowanie na wiele GPU
- Przegląd frameworków: vLLM, TensorRT-LLM, SGLang, llama.cpp
Gdy duże modele językowe stają się podstawą nowoczesnych platform sztucznej inteligencji, ta książka oferuje praktyczny plan serwowania i optymalizacji modeli LLM na dużą skalę co umożliwia niezawodną i opłacalną obsługę ogromnych obciążeń.
Bhavesh Doshi, wicedyrektor działu chmury AI w Salesforce
Wybrane bestsellery
-
Large language models (LLMs) are the reasoning engines of modern AI. Today, a major inflection point has arrived: as the world races to deploy AI at scale, model inference has moved to the center of the stack. Welcome to the inference era. Without proper optimization, however, LLMs can be expensive and slow to serve. Hands-On LLM Serving and Optimi-
-
ebook
(29,90 zł najniższa cena z 30 dni)
237.15 zł
279.00 zł (-15%) -
-
Autorzy prowadzą czytelnika przez cały proces inżynierii AI od kontrolowania stylu i formatu treści, przez integrację wiedzy zewnętrznej z zaawansowanym RAG, wzmacnianie zdolności wnioskowania, budowę niezawodnych systemów, tworzenie agentów zdolnych do działania, aż po optymalizację wdrożeń i implementację zabezpieczeń. Każdy wzorzec jest opisany według jednolitego schematu: problem, sprawdzone rozwiązanie, kompletny przykład kodu, omówienie alternatyw i kompromisów implementacyjnych. Książka łączy osiągnięcia najnowszych badań z praktycznym doświadczeniem ekspertów i dostarcza gotowe wskazówki dla osób tworzących aplikacje oparte na modelach bazowych.-
książka
-
ebook
(77,40 zł najniższa cena z 30 dni)
79.98 zł
129.00 zł (-38%) -
-
MLOps (ang. machine learning operations) to jedna z najszybciej rozwijających się dziedzin IT, łącząca uczenie maszynowe z praktykami DevOps. W erze cyfrowej transformacji, gdy organizacje coraz częściej wdrażają modele AI w środowiskach produkcyjnych, potrzeba skutecznego zarządzania cyklem życia modeli uczenia maszynowego staje się kluczowa. Książka MLOps dla biznesu odpowiada na rosnące zapotrzebowanie rynku na praktyczne przewodniki po tej złożonej tematyce, oferując kompleksowe podejście do skalowania rozwiązań AI w przedsiębiorstwach.-
książka
-
ebook
(41,40 zł najniższa cena z 30 dni)
42.78 zł
69.00 zł (-38%) -
-
Odpowiadasz za optymalizację procesów biznesowych i planujesz użyć w tym celu AI? Ta książka jest dla Ciebie. Wyczerpująco wyjaśnia, jak prowadzić projekty z wykorzystaniem LLM. Omawia ich poszczególne etapy od pracy nad pomysłem, przez wdrożenie, aż po codzienne dostarczanie wartości organizacji a z zawartych w niej wskazówek skorzystają kierownicy projektów, liderzy, analitycy procesów, analitycy biznesowi i właściciele procesów.-
książka
-
ebook
(53,40 zł najniższa cena z 30 dni)
55.18 zł
89.00 zł (-38%) -
-
Agenty AI rewolucjonizują sposób, w jaki wchodzimy w interakcje z technologią, przekształcając pasywne modele językowe w autonomiczne systemy zdolne do planowania, rozumowania i wykonywania złożonych zadań. W dobie gwałtownego rozwoju sztucznej inteligencji agenty AI stają się kluczowym elementem cyfrowej transformacji przedsiębiorstw, oferują bowiem bezprecedensowe możliwości automatyzacji procesów biznesowych i personalizacji usług. Ta technologia, która jeszcze niedawno była domeną laboratoriów badawczych, dziś znajduje praktyczne zastosowanie w każdej branży od obsługi klienta po zarządzanie finansami.-
książka
-
ebook
(53,40 zł najniższa cena z 30 dni)
55.18 zł
89.00 zł (-38%) -
-
Konwersacyjna sztuczna inteligencja jest potężnym narzędziem. Dzięki chatbotom firmy usprawniają obsługę klientów i obniżają jej koszty, a pracownicy mogą się koncentrować na zadaniach wymagających większych kompetencji i budować wartość biznesową. Mimo że interfejsy konwersacyjne stały się powszechne, wiele wdrożeń nie spełnia oczekiwań użytkowników lub z czasem traci na jakości i przydatności.-
książka
-
ebook
(71,40 zł najniższa cena z 30 dni)
73.78 zł
119.00 zł (-38%) -
-
W tej książce znajdziesz sposób na zapanowanie nad złożonością integracji AI. Poznasz koncepcje i procesy architektoniczne kluczowe dla budowania skalowalnych, solidnych systemów AI przy jednoczesnej minimalizacji ryzyka związanego z ich rozwojem i konserwacją. Poszczególne zagadnienia zostały zilustrowane rzeczywistymi przykładami i wzbogacone o praktyczne ćwiczenia, co pozwoli Ci pogłębić zrozumienie omawianych tematów. Krok po kroku nauczysz się budować kluczowe komponenty architektoniczne wspierające systemy AI. Książkę w szczególności docenią architekci i doświadczeni programiści, którzy chcą budować systemy AI w sposób uporządkowany, przewidywalny i zgodny z zasadami inżynierii oprogramowania.-
książka
-
ebook
(41,40 zł najniższa cena z 30 dni)
42.78 zł
69.00 zł (-38%) -
-
Vision language models (VLMs) combine computer vision and natural language processing to create powerful systems that can interpret, generate, and respond in multimodal contexts. Vision Language Models is a hands-on guide to building real-world VLMs using the most up-to-date stack of machine learning tools from Hugging Face, Meta (PyTorch), NVIDIA-
-
ebook
(29,90 zł najniższa cena z 30 dni)
237.15 zł
279.00 zł (-15%) -
-
Retrieval-augmented generation (RAG) is the go-to strategy for integrating large language models with your organization's unique knowledge. However, the market is full of RAG pipelines and components, making it hard to choose the right solution for your enterprise's needs. This book simplifies the process, offering a comprehensive road map to build-
-
ebook
(29,90 zł najniższa cena z 30 dni)
228.65 zł
279.00 zł (-18%) -
-
Successfully delivering AI projects requires more than technical expertise—it demands a new kind of project management. Managing AI Projects is your practical guide to leading artificial intelligence initiatives from idea to production. Written by seasoned experts Malini Jain Runtasewee and Adrián González Sánchez, this book blends traditional p-
-
ebook
(29,90 zł najniższa cena z 30 dni)
135.15 zł
159.00 zł (-15%) -
-
Systemy oparte na agentach AI rewolucjonizują sposób, w jaki organizacje rozwiązują złożone problemy biznesowe. Generatywna sztuczna inteligencja przyspiesza drogę od koncepcji przez prototyp aż do gotowego rozwiązania, a agenty AI łączące narzędzia, wiedzę, pamięć i uczenie się z zaawansowanymi modelami podstawowymi umożliwiają sekwencyjne wywoływanie modeli do realizacji niejednoznacznych zadań. Od agentów-koderów, przez agentów-badaczy, po agentów-analityków wszędzie widać, że mogą one znacząco przyspieszyć pracę zespołów. Jednak ich wdrożenie pozostaje wyzwaniem wymagającym intensywnego planowania.-
książka
-
ebook
(49,50 zł najniższa cena z 30 dni)
61.38 zł
99.00 zł (-38%) -
Wybrane elementy graficzne tej sekcji powstały przy wsparciu AI
Helion - inne książki
-
W erze chmury obliczeniowej, mikroserwisów i eksplozji danych każda nowoczesna aplikacja musi się mierzyć z wyzwaniami skalowalności, niezawodności i wydajności. Drugie wydanie kultowej książki Martina Kleppmanna, uzupełnione o współautorstwo Chrisa Riccominiego, to kompleksowy przewodnik po architekturze systemów danych od relacyjnych baz danych, przez rozproszone systemy NoSQL, po chmurowe hurtownie danych i przetwarzanie strumieniowe. Zaktualizowane wydanie uwzględnia najnowsze trendy: architekturę natywną dla chmury, indeksy wektorowe dla AI, silniki synchronizacji i oprogramowanie local-first.-
książka
-
ebook
(104,30 zł najniższa cena z 30 dni)
92.38 zł
149.00 zł (-38%) -
-
Pod nazwą Arduino Nano kryje się miniaturowa płytka rozwojowa wyposażona w mikrokontroler. Służy ona do nauki elektroniki, programowania i budowy robotów. W tej książce występuje w szczególnie ważnej roli: wprowadza do świata czujników, które pozwalają nadać projektom elektronicznym zdolność odczuwania otoczenia.-
książka
-
ebook
(49,90 zł najniższa cena z 30 dni)
-
-
Unreal Engine to zaawansowany silnik do tworzenia grafiki 3D w czasie rzeczywistym. Korzystają z niego zarówno projektanci gier wideo, osoby odpowiedzialne za efekty wizualne w filmach, kreatorzy animacji, jak i architekci czy inżynierowie chcący na przykład pokazać klientowi docelowy efekt swojej pracy. Narzędzie to łączy imponujące możliwości technologiczne ze stosunkowo dużą łatwością użycia. Co istotne, Unreal Engine jest dostępny za darmo - stojąca za nim firma Epic Games pobiera opłatę dopiero wtedy, gdy projekt oparty na silniku osiągnie określony, całkiem wysoki próg przychodów komercyjnych.-
książka
-
ebook
(69,00 zł najniższa cena z 30 dni)
-
-
Sztuczna inteligencja rewolucjonizuje sposób tworzenia oprogramowania, a narzędzia oparte na agentach AI stają się nieodzownym elementem warsztatu współczesnego programisty. Claude Code jeden z najpopularniejszych agentów programistycznych pozwala automatyzować złożone zadania projektowe, od generowania kodu po zarządzanie całymi procesami CI/CD. Jednak większość użytkowników korzysta z zaledwie ułamka jego możliwości. Tymczasem prawdziwa siła tego narzędzia ujawnia się dopiero wtedy, gdy traktujemy je jako rozszerzalną platformę agentową z zaawansowanymi mechanizmami kontroli kontekstu, orkiestracją wielu agentów i strukturalnymi procesami automatyzacji.-
książka
-
ebook
(54,29 zł najniższa cena z 30 dni)
55.18 zł
89.00 zł (-38%) -
-
W eseju popularnonaukowym, poświęconym jednemu z najważniejszych sporów naszych czasów - o to, czym naprawdę jest inteligencja i czy da się ją odtworzyć w maszynie - autor prowadzi czytelników przez intelektualny labirynt, w którym spotykają się informatyka, filozofia umysłu, neurobiologia, psychologia rozwoju i zdrowy sceptycyzm wobec technologicznych obietnic. Od chińskiego pokoju i filozoficznych zombie, przez granice systemów formalnych i uczenia statystycznego, aż po poznanie ucieleśnione, emergencję, metapoznanie i zawodność benchmarków - ta książka pokazuje, że pytanie o AI nie dotyczy wyłącznie maszyn. Dotyczy przede wszystkim nas: tego, czym jest rozumienie, skąd się bierze sens i dlaczego sprawność w rozwiązywaniu zadań nie musi jeszcze oznaczać inteligencji.-
książka
-
ebook
(35,94 zł najniższa cena z 30 dni)
35.94 zł
59.90 zł (-40%) -
-
Dyrektywa NIS2 to regulacja unijna, która została wdrożona do polskiego prawa w 2026 roku nowelizacją ustawy o Krajowym Systemie Cyberbezpieczeństwa (KSC). Celem jest zwiększenie poziomu cyberbezpieczeństwa państw należących do Unii Europejskiej. W praktyce sektory, które są objęte dyrektywą, to nie tylko podmioty związane z władzami lub administracją publiczną, ale też wiele firm prywatnych i instytucji. Wiąże się to między innymi z koniecznością uporządkowania odpowiedzialności, przejrzenia modelu zarządzania ryzykiem, zaktualizowania dokumentacji, stworzenia skutecznego procesu obsługi incydentów, uporządkowania relacji z dostawcami i przygotowania kierownictwa do realnej odpowiedzialności za obszar cyberbezpieczeństwa.-
książka
-
ebook
(53,40 zł najniższa cena z 30 dni)
53.40 zł
89.00 zł (-40%) -
-
Dzięki tej książce radykalnie zwiększysz swoją produktywność z pomocą generatywnej sztucznej inteligencji dostępnej w środowisku GitHub Copilot. Nauczysz się szybszego pisania kodu, łatwiejszego przygotowywania testów i opracowywania rzetelnej dokumentacji. Poznasz też zaawansowane możliwości, takie jak autonomiczne dodawanie funkcji i automatyczne przeglądanie żądań pobierania. Poza podstawami zaznajomisz się z trybami Copilot Edits, Agent i Vision. Zaczniesz również tworzyć własne rozszerzenia Copilota i tym samym zyskiwać dodatkowe możliwości bez względu na to, z którego języka korzystasz.-
książka
-
ebook
(53,40 zł najniższa cena z 30 dni)
55.18 zł
89.00 zł (-38%) -
-
Modernizacja systemów zastanych to jedno z największych wyzwań współczesnej inżynierii oprogramowania. W erze cyfrowej transformacji firmy borykają się z przestarzałymi monolitami, które hamują innowacje i generują coraz wyższe koszty utrzymania. Domain-Driven Design (DDD), podejście od lat uznawane za skuteczne w tworzeniu nowego oprogramowania, przechodzi drugą młodość jako metodyka transformacji systemów legacy. Książka wypełnia istotną lukę na rynku oferuje kompleksowe, praktyczne podejście do modernizacji opartej na zasadach DDD, łączące aspekty techniczne, biznesowe i organizacyjne.-
książka
-
ebook
(77,40 zł najniższa cena z 30 dni)
79.98 zł
129.00 zł (-38%) -
-
Uczenie maszynowe i sztuczna inteligencja to dziś najgorętsze tematy w branży IT. Od ChatGPT po autonomiczne pojazdy technologie AI przekształcają każdą dziedzinę przemysłu. Popyt na specjalistów ML rośnie wykładniczo, a umiejętność budowania i wdrażania modeli uczenia maszynowego stała się poszukiwaną na rynku kompetencją potencjalnych pracowników. Ta książka to kompleksowy przewodnik po świecie uczenia maszynowego z wykorzystaniem najpopularniejszych narzędzi: Scikit-Learn do klasycznych algorytmów ML i PyTorch wiodącej biblioteki do uczenia głębokiego.-
książka
-
ebook
(119,40 zł najniższa cena z 30 dni)
123.38 zł
199.00 zł (-38%) -
-
C++20 to największa od czasu wersji z numerem 11 aktualizacja języka C++. Wprowadza dziesiątki nowych mechanizmów, pozwalających pisać kod, który jest nowocześniejszy, bezpieczniejszy, czytelniejszy i wygodniejszy w utrzymaniu.-
książka
-
ebook
(47,40 zł najniższa cena z 30 dni)
48.98 zł
79.00 zł (-38%) -
Dzięki opcji "Druk na żądanie" do sprzedaży wracają tytuły Grupy Helion, które cieszyły sie dużym zainteresowaniem, a których nakład został wyprzedany.
Dla naszych Czytelników wydrukowaliśmy dodatkową pulę egzemplarzy w technice druku cyfrowego.
Co powinieneś wiedzieć o usłudze "Druk na żądanie":
- usługa obejmuje tylko widoczną poniżej listę tytułów, którą na bieżąco aktualizujemy;
- cena książki może być wyższa od początkowej ceny detalicznej, co jest spowodowane kosztami druku cyfrowego (wyższymi niż koszty tradycyjnego druku offsetowego). Obowiązująca cena jest zawsze podawana na stronie WWW książki;
- zawartość książki wraz z dodatkami (płyta CD, DVD) odpowiada jej pierwotnemu wydaniu i jest w pełni komplementarna;
- usługa nie obejmuje książek w kolorze.
Masz pytanie o konkretny tytuł? Napisz do nas: sklep@helion.pl
Książka drukowana
Oceny i opinie klientów: LLM w środowisku produkcyjnym. Serwowanie, optymalizacja i hosting na dużą skalę Chi Wang, Peiheng Hu
(0)