LLM入門
このページでは、AI技術に関心のある方のために、LLM（大規模言語モデル）の基礎から応用までをわかりやすく解説します。
合計 4 件の記事があります。 |
現在 1 ページ中の 1 ページ目です。
第12章 — 分離型サービングとKubernetes
『LLM Primer VI』ウォークスルー第12回。プリフィルとデコードを別GPUプールに分割し、KVキャッシュをNVLink/InfiniBand上で運ぶ。ポッドを正しい側に留めるKubernetesのプリミティブ。
2026-05-04
6.1 LLMアプリケーションのスケーラブルなデプロイ | DockerとKubernetesの活用
LLMアプリケーションをDockerでコンテナ化し、Kubernetesでスケーラブルにデプロイする方法を解説します。Pythonベースのアプリケーションに最適なデプロイ手法です。
2024-11-21
6.0 LLMアプリケーションのデプロイとCI/CDパイプラインの構築
LLMアプリケーションをDockerとKubernetesでデプロイし、GitHub Actionsを使用したCI/CDパイプラインの構築方法を解説します。スケーラブルな運用環境の実現に役立つ情報です。
2024-11-20
LLM入門：Pythonを用いたLLMアプリケーション構築ガイド | API設計、微調整、デプロイ
Pythonエンジニア向けに、LLM（大規模言語モデル）を活用したアプリケーションの構築方法を徹底解説。FlaskやFastAPIを使ったAPI設計、モデルの微調整（ファインチューニング）、データ前処理の自動化、推論速度の最適化、Docker/Kubernetesを使ったデプロイまで、実践的な内容をカバーします。
2024-11-01