生成AIとLLM入門

対象読者: 生成AIを初めて使う人、または仕組みと限界を理解してapplicationへ組み込みたい人。

この教材でできるようになること

model、prompt、context、token、inferenceを説明できる
生成結果を事実ではなく候補として検証できる
機密情報を入力しない境界を決められる
小さなevaluation setで変更前後を比較できる

1. LLMが行うこと

LLMは、与えられたcontextに続くtokenの分布をもとに出力を生成します。流暢さは事実性の保証ではありません。

system instruction
user request
reference context
tool results
conversation history
        ↓
      model
        ↓
generated response

2. 重要な用語

用語	意味
prompt	modelへ渡す指示や入力
context window	一度の処理で参照できるtoken範囲
inference	入力から出力を生成する処理
temperature	出力選択のばらつきに関するparameter
grounding	信頼できる資料やtool resultへ根拠を置くこと
hallucination	根拠のない内容をもっともらしく生成すること

3. 良い依頼の最小構造

目的: 誰の何を助けるか
入力: 利用してよいdata
出力形式: JSON、表、文章など
制約: 禁止事項、長さ、対象範囲
評価基準: 何を満たせば成功か
不明時: 推測せず不足情報を示す

曖昧な「いい感じに」より、成功条件を観測可能にします。

4. 入力してよい情報を決める

credential、token、passwordを入力しない
個人情報や顧客dataは承認された範囲だけ
repositoryやdocumentの公開・非公開境界を確認する
providerの保存、training、retention設定を確認する
outputにも秘密情報が再出力され得ると考える

modelの性能とは別に、data governanceを設計します。

5. 出力を検証する

codeなら次を確認します。

build・type check・testが通るか
存在しないAPIを使っていないか
security boundaryを壊していないか
edge caseとerror handlingがあるか
licenseやsourceを確認したか

文章なら一次資料との一致、日付、固有名詞、数値を優先的に確認します。

6. evaluationを小さく始める

case | input | expected properties | result | notes
01   | ...   | JSON schema valid   | pass   | ...
02   | ...   | cites source        | fail   | source missing

代表例だけでなく、空入力、長文、曖昧な依頼、攻撃的入力、tool failureを含めます。promptやmodelを変えたとき同じsetで比較します。

演習: 要約機能を設計する

公開documentを200字以内で要約する機能について、次を書いてください。

入力できるdocumentの条件
promptの目的・形式・禁止事項
成功例3件
edge case3件
人が確認すべき項目
logへ残してよい情報

理解チェック

流暢さと事実性を区別できる
promptへ成功条件を含められる
dataの公開境界をmodel利用前に決められる
固定したevaluation setで変更を比較できる

参考資料

NIST AI Risk Management Framework

次に読む

AI・LLMロードマップからprompt、API、MCP、cloud提供基盤へ進みます。