LLM入門
このページでは、AI技術に関心のある方のために、LLM(大規模言語モデル)の基礎から応用までをわかりやすく解説します。
第14章 — エンジニアのための実践的知識
LLM Primer II 第14章、歩き読みシリーズの最終回です。本書を読み終えたあと、どのように理解を深め続けるか。PyTorch、JAX、Hugging Face、vLLM などの道具立てを数学に重ね、シリーズの次の巻へとご案内します。
2026-03-163.1 LLMのサブワードトークナイザーの使用方法|BERTやGPT-2でのトークン化の解説
サブワードトークナイザーを使用したLLMのトークン化方法を解説。Hugging FaceのBERTやGPT-2トークナイザーを使用し、Pythonコード例で具体的な実装方法を紹介します。
2024-11-103.0 LLMのトークン化とデータ前処理の自動化|効率的なデータクレンジングと前処理パイプライン
LLMのトレーニングに必要なトークン化とデータ前処理の自動化について解説。Pythonコード例とHugging Faceライブラリを使用し、データクレンジングと効率的な前処理パイプラインの構築方法を紹介します。
2024-11-092.3 LLMのトレーニング実行とモデル評価|Pythonによるトレーニングと評価手法
LLMのトレーニングと評価の手順をPythonコード例と共に紹介。Hugging Face Transformersを使用したBERTモデルのトレーニング、評価指標の解説、モデルの保存方法を説明します。
2024-11-082.0 LLMモデルのファインチューニング|Hugging Faceを使った効率的な微調整手法
Hugging FaceのTransformersライブラリを使用して、LLMのファインチューニングを行う方法を解説。トレーニングデータの準備から評価までの具体的な手順を紹介。
2024-11-056.2 Pythonを使ったLLM実装例 | Hugging Face, OpenAI, Google Cloud, Azureを活用したテキスト生成
Pythonを使ってLLM(大規模言語モデル)を簡単に実装する方法をエンジニア向けに解説。Hugging Face、OpenAI、Google Cloud、Azureを使用したテキスト生成や感情分析の実装例を紹介します。
2024-09-266.1 LLMを試すためのオープンソースツールとAPIの紹介 | Hugging Face, OpenAI, Google Cloud, Azure
LLM(大規模言語モデル)を試すための主要なオープンソースツールやAPIをエンジニア向けに解説。Hugging Face、OpenAI、Google Cloud AI、Microsoft Azure Cognitive Servicesの特徴と使用方法を紹介し、簡単な実装例も提供。
2024-09-25