講義内容
前提知識
特になし。
備考
ー
テーマ | 概要 | キーワード |
---|---|---|
1.生成AI概要と技術動向 | 人工知能技術である生成AIの特徴、技術的背景をお伝えします。 | 確率モデル ハルシネーション (Hallucination) 条件付き生成 拡散モデル (Diffusion Model) |
2.大規模言語モデル(LLM)の基本構造 | 大規模言語モデル(LLM)の仕組み、技術要素をお伝えします。 | 基盤モデル 言語モデル 大規模言語モデル (LLM) トランスフォーマー (Transformer) アテンション (Attention) GPT-3 |
3.LLMの学習方法とアライメント | 大規模言語モデル(LLM)の学習方法、精度改善手法をお伝えします。 | 教師あり学習、自己教師あり学習、事前学習 ファインチューニング アラインメント 人間のフィードバックによる強化学習 (RLHF) インストラクション・チューニング コンテキスト内学習 Zero-Shot、Few-Shot Chain-of-Thought サンプリング手法 |
4.ChatGPT API | ChatGPT APIの使い方、活用方法をお伝えします。 | ChatGPT API |
5.RAG(自社データの活用) | 自社データを活用するためのRAG(Retrieval-Augmented Generation)と、LangChain、Llamaindex、などChatGPTを活かす周辺技術をお伝えします。 | RAG、LangChain、Llamaindex |