LLM入門
合計 2 件の記事があります。
現在 1 ページ中の 1 ページ目です。

6.1 データセットの前処理 - トレーニングデータのクリーニングと最適化方法
LLM(大規模言語モデル)のトレーニングに使用されるデータセットの前処理手法を解説します。データのクリーニング、トークン化、バイアス軽減、サンプリングなど、効果的な学習のためのプロセスを紹介します。
2024-10-17

1.2 確率論の基本と対話生成|LLMの次単語予測を学ぶ
LMは対話を“一単語ずつの確率予測”で生成します。本記事では「P(次の単語|文脈)」の考え方、自己回帰的生成、Top-kサンプリングやTemperature制御まで、確率論の基礎を対話例とともにわかりやすく解説します。
2024-10-04
カテゴリー
検索履歴
会話履歴 570
エンジニア向け 353
マルコフ連鎖 319
大規模言語モデル 318
自動要約 315
NLP トランスフォーマー 307
言語モデル 307
データ前処理 303
注意メカニズム 301
生成型要約 301
パーソナライズドコンテンツ 300
教育AI 298
数学的アプローチ 293
トークン化 289
ミニバッチ学習 284
LLM 要約 282
LLM テキスト生成 278
ロス計算 278
GPT テキスト生成 276
クロスエントロピー損失 276
バイアス 問題 276
セルフアテンション 275
線形代数 269
GPT-2 テキスト生成 268
バッチサイズ 268
自動翻訳 267
トレーニング 266
サンプリング 264
抽出型要約 263
LLM リアルタイム処理 262
チーム

任 弘毅
株式会社レシートローラーにて開発とサポートを担当。POSレジやShopifyアプリ開発の経験を活かし、業務のデジタル化を促進。

下田 昌平
開発と設計を担当。1994年からプログラミングを始め、今もなお最新技術への探究心を持ち続けています。