LLM入門
このページでは、AI技術に関心のある方のために、LLM(大規模言語モデル)の基礎から応用までをわかりやすく解説します。
3.1 LLMのサブワードトークナイザーの使用方法|BERTやGPT-2でのトークン化の解説
サブワードトークナイザーを使用したLLMのトークン化方法を解説。Hugging FaceのBERTやGPT-2トークナイザーを使用し、Pythonコード例で具体的な実装方法を紹介します。
2024-11-102.3 LLMのトレーニング実行とモデル評価|Pythonによるトレーニングと評価手法
LLMのトレーニングと評価の手順をPythonコード例と共に紹介。Hugging Face Transformersを使用したBERTモデルのトレーニング、評価指標の解説、モデルの保存方法を説明します。
2024-11-082.1 Hugging Face Transformersを使ったモデルのファインチューニング|BERTのPython実装例
Hugging FaceのTransformersライブラリを使って、BERTモデルのファインチューニングを行う方法を解説します。Pythonコード例と共に、データ前処理やトレーニング設定のポイントも紹介。
2024-11-062.3 BERT, GPT, T5などの代表的なLLMモデルの解説 | 自然言語処理タスクへの応用
BERT、GPT、T5などの代表的なLLMモデルをエンジニア向けに解説。それぞれのモデルが持つ特徴と強み、適用されるNLPタスクについて詳しく説明します。プロジェクトに最適なモデルを選ぶためのガイド。
2024-09-102.0 LLMの基本的な仕組み | トランスフォーマーと注意機構の解説
LLM(大規模言語モデル)の基本的な仕組みをエンジニア向けに解説。トランスフォーマーモデル、注意機構(Attention Mechanism)、BERT、GPT、T5などの代表的なモデルの特徴を詳しく説明します。
2024-09-061.1 LLMとは何か: 定義と概要 | 大規模言語モデルの基本をエンジニア向けに解説
LLM(大規模言語モデル)とは何か?GPTやBERTなどの代表的なモデルや学習の仕組み、自然言語処理における役割をわかりやすく解説。『LLM入門:しくみから学ぶ生成AIの基礎』からの要約版です。
2024-09-03LLM入門: しくみから学ぶ 生成AIの基礎
自然言語処理で注目される大規模言語モデル(LLM)の仕組みやトレーニング方法、応用例をエンジニア向けに分かりやすく解説。GPTやBERTなどの最新モデルの解説も含む、実際にLLMを活用するための実践的なガイド。
2024-09-01