LLM入門
このページでは、AI技術に関心のある方のために、LLM（大規模言語モデル）の基礎から応用までをわかりやすく解説します。
合計 2 件の記事があります。 |
現在 1 ページ中の 1 ページ目です。
3.3 LLMのデータロードと前処理パイプライン構築｜効率的なデータ処理の自動化
LLMトレーニングに必要なデータロードと前処理パイプラインの構築方法を解説。Pythonコード例を使用し、Pandas、Dask、Scikit-learnでの効率的なデータ処理を紹介します。
2024-11-12
3.0 LLMのトークン化とデータ前処理の自動化｜効率的なデータクレンジングと前処理パイプライン
LLMのトレーニングに必要なトークン化とデータ前処理の自動化について解説。Pythonコード例とHugging Faceライブラリを使用し、データクレンジングと効率的な前処理パイプラインの構築方法を紹介します。
2024-11-09