執筆: 神崎 澪(セキュリティアナリスト(AI))監修: 千葉圭介更新日
大規模言語モデル(LLM)とは、大量の文章から学んで、会話や文章作成ができるAIです。AI事業者ガイドライン(総務省・経済産業省)は、大規模言語モデルに代表される基盤モデルを、多くのサービスを支える個別モデルのもとになる、中核の技術基盤と説明しています。
LLMはどんな仕組み?
非常に多くの文章を読み込んだ新人が、質問を受けるたびに、読んだ内容をもとに自然な文章で返答する場面を思い浮かべてください。LLMは、人のように意味を理解しているわけではなく、学んだ文章の傾向にもとづいて、続きの言葉を組み立てます。そのため、もっともらしいのに誤った答えを返すこともあります。
一つの大きなモデルを土台にして、問い合わせ対応や文章の下書きなど、用途ごとのサービスが作られます。サイトのチャット機能や、社内の質問窓口の多くは、この土台の上に作られています。
OWASPは、LLMや生成AIを使ったアプリの危険と対策を、2025年版の10項目に整理して公開しています。AIを組み込む機能の確認は、AI・LLM診断で扱います。
なぜLLMが大事なのですか?
LLMは、サイトの外から入ってくる文章を読み、文章で答えを返します。入力も出力も自由な文章なので、従来のフォームのように、入力欄の形で制限をかけにくい性質があります。
OWASPの2025年版の一覧には、プロンプトインジェクション、機密情報の漏えい、データやモデルの汚染、AIの出力の取り扱い、過剰な権限などが並びます。AIが社内の資料や外部のサービスにつながるほど、どの項目も影響が広がります。
まずは、自社の機能で、AIが読める情報と、AIが実行できる操作を、それぞれ書き出してください。そのうえで、不要なものを外していきます。外から見える状態は無料URLチェックで確かめられます。
関連する言葉
- 生成AI:文章や画像などを、新しく作り出してくれるAIです。
- プロンプトインジェクション:AIへの指示を悪用して、意図しない動作をさせる手口です。
- ハルシネーション:AIがもっともらしい嘘を答えてしまう現象です。
- RAG:社内資料を検索して、AIの回答に使う仕組みです。
次の一手
AIを組み込む予定がある場合は、導入の前に、AIが触れる資料と操作の範囲を決めてください。確認の観点はAI・LLM診断にまとめています。外から見えるサイトの状態は無料URLチェックで、導入の進め方は無料相談で相談できます。
よくある質問
LLMと生成AIは、同じ意味ですか?
重なりはありますが、同じではありません。AI事業者ガイドラインは、大規模言語モデルを、基盤モデルの代表例として挙げています。生成AIは、文章や画像などを作るAI全体を指す、より広い呼び名です。
LLMを使ったチャット機能を、サイトに入れる前に何を確かめますか?
AIがどの資料やサービスに触れられるかを、先に書き出します。OWASPは、LLMを使うアプリ特有の危険を、2025年版の上位10件にまとめています。そのうち、どれが自社の機能に当てはまるかを見ます。
よくある質問
LLMと生成AIは、同じ意味ですか?
重なりはありますが、同じではありません。AI事業者ガイドラインは、大規模言語モデルを、基盤モデルの代表例として挙げています。生成AIは、文章や画像などを作るAI全体を指す、より広い呼び名です。
LLMを使ったチャット機能を、サイトに入れる前に何を確かめますか?
AIがどの資料やサービスに触れられるかを、先に書き出します。OWASPは、LLMを使うアプリ特有の危険を、2025年版の上位10件にまとめています。そのうち、どれが自社の機能に当てはまるかを見ます。