現在地
トップ > 電子書籍 > PC・システム開発 > その他
大規模言語モデル入門2〜生成型LLMの実装と評価

大規模言語モデル入門2〜生成型LLMの実装と評価 [電子書籍版]
山田育矢

7位 PC・システム開発部門 楽天ブックス週間ランキング(2024年11月25日-2024年12月01日)ランキングを見る

3,300(税込)

商品情報

商品説明

内容紹介

※この商品は固定レイアウトで作成されており、タブレットなど大きいディスプレイを備えた端末で読むことに適しています。また、文字列のハイライトや検索、辞書の参照、引用などの機能が使用できません。※PDF版をご希望の方はGihyo Digital Publishingも併せてご覧ください。


◆コンピュータが言語を理解するしくみ◆


「大規模言語モデル入門」の続編です。「大規模言語モデル入門」は理論と実装のバランスをとって構成しましたが、本書では実装部分で扱い切れなかった話題を取り上げ、特に大規模言語モデルの評価と生成LLMに関連する解説を充実させます。「大規模言語モデル入門」の9章に続き、10章から始まります。

10章では、後続する章で行う言語モデルの評価方法について解説します。自動評価と人手評価の2つの側面から、ベンチマーク、評価指標、具体的な評価ツールやデータセットなどを取り上げます。11〜13章では、主に大規模言語モデルの性能を上げるためのトピックとして、指示チューニング、人間のフィードバックからの学習、RAGに焦点を当て、それぞれの実装方法、利用するデータセット、評価の方法について解説します。14章では大規模言語モデルの学習における並列・分散処理について詳しく解説します。大規模なデータを限られた計算資源で学習させるノウハウは多くのエンジニアにとって有益な情報となるでしょう。

大規模言語モデルの性能を高めるための各トピックの実装とともに、それぞれの評価について理解できる一冊です。


■目次


※第1章〜第9章は前巻掲載。

第10章 性能評価

  10.1 モデルの性能評価とは

  10.2 評価指標を用いた自動評価

  10.3 LLM を用いた自動評価

第11章 指示チューニング

  11.1 指示チューニングとは

  11.2 指示チューニングの実装

  11.3 指示チューニングしたモデルの評価

第12章 選好チューニング

  12.1 選好チューニングとは

  12.2 選好チューニングの実装

  12.3 選好チューニングの評価

第13章 RAG

  13.1 RAGとは

  13.2 基本的なRAGのシステムの実装

  13.3 RAG向けにLLMを指示チューニングする

  13.4 RAGの性能評価

第14章 分散並列学習

  14.1 分散並列学習とは

  14.2 さまざまな分散並列学習手法

  14.3 LLMの分散並列学習


■著者プロフィール


山田 育矢(やまだ いくや):株式会社Studio Ousia チーフサイエンティスト・名古屋大学 客員教授・理化学研究所革新知能統合研究センター客員研究員。2007年にStudio Ousiaを創業し、自然言語処理の技術開発に従事。2016年3月に慶應義塾大学大学院政策・メディア研究科博士後期課程を修了し、博士(学術)を取得。大規模言語モデルLUKEの開発者。全体の監修と12章の一部の執筆を担当。

鈴木 正敏(すずき まさとし):株式会社Studio Ousia ソフトウェアエンジニア・東北大学データ駆動科学・AI教育研究センター学術研究員。2021年3月に東北大学大学院情報科学研究科博士後期課程を修了し、博士(情報科学)を取得。博士課程では質問応答の研究に従事。日本語質問応答のコンペティション「AI王」の実行委員。東北大学が公開している日本語BERTの開発者。第13章の執筆を担当。

西川 荘介(にしかわ そうすけ):LINEヤフー株式会社 自然言語処理エンジニア。2022年3月に東京大学大学院情報理工学研究科修士課程を修了。現在は情報検索分野での言語処理に取り組む。第12章の執筆を担当。

藤井 一喜(ふじい かずき):東京工業大学 情報工学系 修士1年・Turing株式会社嘱託研究員。学士、修士課程では大規模モデルの分散並列学習に従事。llm-jp、Swallow Projectにて日本語大規模言語モデルの事前学習を担当。第14章の執筆を担当。

山田 康輔(やまだ こうすけ):株式会社サイバーエージェント AI Lab リサーチサイエンティスト・名古屋大学大学院情報学研究科協力研究員。2024年3月名古屋大学情報学研究科博士後期課程を修了し、博士(情報学)を取得。2024年4月より現職。博士後期課程では自然言語処理、特にフレーム意味論に関する研究に従事。第10章の執筆を担当。

李 凌寒(り りょうかん):SB Intuitions株式会社 リサーチエンジニア。2023年3月に東京大学大学院情報理工学系研究科博士後期課程を修了し、博士(情報理工学)を取得。博士課程では言語モデルの解析や多言語応用の研究に従事。現在は日本語大規模言語モデルの開発に取り組む。第11章の執筆を担当。


商品レビュー

楽天Koboのレビュー

まだレビューがありません。 レビューを書く

楽天ブックスランキング情報

楽天Kobo電子書籍版

  • 期間限定!イチオシのキャンペーン

最近チェックした商品

    ※表示を削除したい場合は閲覧履歴のページから削除お願いいたします

    ランキング:PC・システム開発

    ※1時間ごとに更新

    1. 1
      【入荷予約】ミニチュア作りで楽しくはじめる 10日でBlender4入門
      【入荷予約】ミニチュア作りで楽しくはじ…

      M design

      2,530円(税込)

    2. 2
      年賀状DVD-ROM 2025
      年賀状DVD-ROM 2025

      インプレス年賀状編集部

      1,760円(税込)

    3. 3
      はやわざ年賀状2025
      はやわざ年賀状2025

      インプレス年賀状編集部

      429円(税込)

    4. 4
      はやわざ筆ぐるめ年賀状2025
      はやわざ筆ぐるめ年賀状2025

      インプレス年賀状編集部

      539円(税込)

    5. 5
      【予約】【令和7年度】 いちばんやさしい ITパスポート 絶対合格の教科書+出る順問題集
      【予約】【令和7年度】 いちばんやさしい…

      高橋 京介

      1,793円(税込)

    購入データ自動連携!楽天ブックス公式 無料 読書管理パプリ Readee

    このページの先頭へ