LLM入門

このページでは、AI技術に関心のある方のために、LLM(大規模言語モデル)の基礎から応用までをわかりやすく解説します。


合計 6 件の記事があります。 | 現在 1 ページ中の 1 ページ目です。

第9章 — スケールでの学習

LLM Primer II シリーズの第9章を紹介します。データ前処理が後段すべてを静かに左右する数学、ミニバッチと並列化の力学、そして数千の GPU にまたがる学習を数値的に安定に保つための、思いのほか繊細な工夫を、控えめに整理します。

2026-03-11

4.0 LLMのモデル圧縮と推論速度の最適化|効率的なパフォーマンス改善

LLMのモデル圧縮技術と推論速度の最適化手法を解説。量子化、知識蒸留、ONNXを使用したPython実装例で効率的なLLMのデプロイをサポート。

2024-11-12

3.3 LLMのデータロードと前処理パイプライン構築|効率的なデータ処理の自動化

LLMトレーニングに必要なデータロードと前処理パイプラインの構築方法を解説。Pythonコード例を使用し、Pandas、Dask、Scikit-learnでの効率的なデータ処理を紹介します。

2024-11-12

3.2 LLMのデータクレンジング自動化|Pythonでの効率的なノイズ除去と前処理

LLMのトレーニングにおけるデータクレンジングの重要性とその自動化手法を解説。Pythonコード例で、HTMLタグの除去、ストップワードの削除、正規化などの基本的なクレンジングプロセスを紹介します。

2024-11-11

3.0 LLMのトークン化とデータ前処理の自動化|効率的なデータクレンジングと前処理パイプライン

LLMのトレーニングに必要なトークン化とデータ前処理の自動化について解説。Pythonコード例とHugging Faceライブラリを使用し、データクレンジングと効率的な前処理パイプラインの構築方法を紹介します。

2024-11-09

LLM入門:Pythonを用いたLLMアプリケーション構築ガイド | API設計、微調整、デプロイ

Pythonエンジニア向けに、LLM(大規模言語モデル)を活用したアプリケーションの構築方法を徹底解説。FlaskやFastAPIを使ったAPI設計、モデルの微調整(ファインチューニング)、データ前処理の自動化、推論速度の最適化、Docker/Kubernetesを使ったデプロイまで、実践的な内容をカバーします。

2024-11-01