ChatGPT / LLMとは？
LLMは大規模言語モデルの略。ChatGPTはOpenAIが開発した代表的なLLMベースの対話型AIサービス
詳細解説
LLM（Large Language Model: 大規模言語モデル）は、インターネット上の大量のテキストデータ（Webページ・書籍・論文等）でTransformerアーキテクチャを用いて事前学習した大規模なニューラルネットワークで、テキストの続きを予測する能力から文章生成・要約・翻訳・質問応答・コード生成など多様なタスクをこなせます。ChatGPT（Chat Generative Pre-trained Transformer）はOpenAIがGPT-4ベースで開発した対話型AIサービスで、2022年11月に公開後2ヶ月で月間1億ユーザーを達成し、最速で1億ユーザー突破の記録を塗り替えました。代表的なLLMとサービスはGPT-4o/o1（OpenAI/ChatGPT）・Claude 3.5/4（Anthropic/Claude.ai）・Gemini 2.0（Google）・LLaMA 3（Meta、オープンソース）・Mistral（Mistral AI）です。LLMの技術的基盤はTransformerのSelf-Attention機構で、長い文章の文脈を効率よく処理できます。パラメータ数（GPT-4は約1.8兆パラメータとも）が多いほど性能が高い傾向がありますが、推論コスト・電力消費も増大します。ファインチューニング（特定用途への追加学習）・RLHF（人間のフィードバックによる強化学習）でより安全・有用な出力に調整されています。ITパスポートでは「LLMの定義」「ChatGPTの位置づけ」「プロンプト・ハルシネーション・RAGとの関係」「生成AIのリスクとガバナンス」が重要出題テーマです。
ITパスポートでの出題ポイント
- 1LLMはTransformerベースの大規模言語モデル、ChatGPTはその代表サービス
- 2テキスト生成・要約・翻訳・コード生成など多用途に対応
- 3RLHF（人間フィードバックによる強化学習）で安全性・有用性を調整
- 4ハルシネーション・著作権・ガバナンスが利用上の主要課題