LLM入門
合計 2 件の記事があります。
現在 1 ページ中の 1 ページ目です。
4.2 LLMの推論速度を最適化する方法｜バッチ推論と半精度推論の活用
LLMの推論速度を改善するための技術を解説。バッチ推論、ONNX Runtime、半精度推論（FP16）など、効率的な推論手法とその実装例を紹介します。
2024-11-14
4.0 LLMのモデル圧縮と推論速度の最適化｜効率的なパフォーマンス改善
LLMのモデル圧縮技術と推論速度の最適化手法を解説。量子化、知識蒸留、ONNXを使用したPython実装例で効率的なLLMのデプロイをサポート。
2024-11-12
カテゴリー
検索履歴
会話履歴 744
エンジニア向け 392
マルコフ連鎖 373
生成型要約 368
自動要約 365
注意メカニズム 364
大規模言語モデル 363
パーソナライズドコンテンツ 362
教育AI 361
NLP トランスフォーマー 356
トークン化 348
言語モデル 348
ミニバッチ学習 343
数学的アプローチ 341
データ前処理 334
セルフアテンション 332
GPT テキスト生成 330
クロスエントロピー損失 329
LLM テキスト生成 324
バイアス 問題 322
LLM 要約 320
ロス計算 315
GPT-2 テキスト生成 311
バッチサイズ 311
トレーニング 310
線形代数 310
FAQシステム 307
自動翻訳 303
コード生成 301
自然言語処理 翻訳 301
チーム
任 弘毅
株式会社レシートローラーにて開発とサポートを担当。POSレジやShopifyアプリ開発の経験を活かし、業務のデジタル化を促進。
下田 昌平
開発と設計を担当。1994年からプログラミングを始め、今もなお最新技術への探究心を持ち続けています。