おすすめの本はこちら！

生成AIとは

新しいコンテンツを作り出すAIのこと。今までは、判断や分類することが中心のAIでしたが、生成AIは、新しい文章・画像・音声などを作成する

コグニティブAI（Cognitive AI）とは

人間の認知能力（見る・聞く・読む・理解する）を再現するAI。

Azureでは、

Azure AI Vision
Azure AI Language
Azure AI Speech

などがコグニティブAIの代表例

言語モデルとは

人間の言葉を理解・生成するために学習したAIモデル。大量の文章を学習して、言葉のパターンを理解したAIの頭脳。

例えば、「今日は天気が」と言われたら、

「いいですね」
「晴れです」

など、次に来る可能性が高い言葉を予測できます。

大規模言語モデル（LLM）とは

大量の文章データを学習した、言語を理解・生成するAIモデル。文章を扱うAIの頭脳

代表例：

GPT-4系
GPT-5系
Claude
Gemini

など。

言語モデルとは

次に来る言葉を予測するモデル。

「今日はとても」→AIは過去の文章パターンから、「暑い」「良い天気」「忙しい」など自然な言葉を予測する。

大規模言語モデルと言語モデルの違い

	言語モデル	大規模言語モデル
規模	小さい	非常に大きい
学習データ	少ない	大量
性能	固定的	高度な文章生成が可能

シーケンスとは

順番に並んだデータのまとまり。シーケンスデータとは順番に意味があるデータ。

例えば、「私は猫が好きです」だと自然ですが、「猫が私は好きです」だと不自然になる

コーパス（Corpus）とは

AIが学習するために集めた大量の文章データの集まり

LLMの学習では、

書籍
Webページ
論文
ニュース記事

など大量の文章を使います。この文章の集合を、

コーパス

と呼びます

DALL-Eとは

画像を生成するAIモデル。文章を入力すると画像を作ります

Whisperとは

音声を文字に変換するAIモデル（音声認識モデル）

GPT・BERT・LLaMAの比較

モデル	特徴	得意分野
GPT	生成型LLM	文章生成・会話
Codex	コード生成モデル	プログラム作成。人間の言葉（自然言語）をプログラムコードに変換するAIモデル例） import pandas as pd df = pd.read_excel(“売上.xlsx”) print(df[“金額”].sum())
BERT	Googleの理解型モデル	分類・検索
LLaMA	Metaのオープン系LLM	文章生成

トランスフォーマーとは

現在のLLMの基本となっているAIモデルの構造（アーキテクチャ）。文章の中の単語同士の関係を理解する仕組み

例えば、「銀行に行ってお金を下ろす」という文章では、

「銀行」が

川の銀行（bank）
金融機関（bank）

どちらの意味かを周囲の単語から判断します。

これを得意にしたのがTransformer。エンコーダーとデコーダーの２つのブロックから構成されている。

再帰型ニューラルネットワーク（RNN）とは

文章や時系列データを順番に処理するニューラルネットワーク

私は
↓
今日
↓
学校へ
↓
行く

のように、前の情報を覚えながら処理します。

アーキテクチャ（Architecture）とは

AIモデルの設計構造

建物で例えると、

建物の設計図 → アーキテクチャ
建物 → AIモデル

エンコーダー（Encoder）とは

入力データを理解する部分。入力を意味のある情報に変える役割。

「エンコーダーとは、入力された文章を解析し、その文脈を理解するためにベクトル表現に変換した後、セルフアテンション機構を通じて各単語が他の単語とどのように関連しているかを計算し、重み付けを行います」
SHOEISHA「Microsoft AzureAI Fandamentals AI-900」P191

エンコーダーは、文章を読んで「文章の意味を理解するAIの部分」

①「入力された文章を解析する」とは？

例えば、文章をAIに入力します。

「私は銀行に行きました」

エンコーダーは、この文章を読みます。しかし、AIは人間のように日本語をそのまま理解できません。そこで次の処理をします。

②「ベクトル表現に変換する」とは？

AIは文章を**数字の並び（ベクトル）**に変換します。

例えば、

「犬」

↓

[0.25, 0.87, -0.12, 0.56 ...]

のような数字になります。

なぜ数字にするかというと、コンピューターは数字でしか計算できないからです。

つまり、

文章
↓
数字の情報

に変換することです。

③「文脈を理解する」とは？

ここが重要です。

例えば、

「銀行に行った」

という文章。

「銀行」には2つの意味があります。

① お金を扱う銀行
② 川岸（bank）

AIは周りの言葉を見て判断します。

「お金を下ろした」という言葉があれば、

↓

「金融機関の銀行」だと理解します。

これが文脈理解です。

④「セルフアテンション機構」とは？

簡単に言うと、

文章の中で、どの単語同士が関係しているかを見る仕組み

です。

例えば、

「太郎は犬を散歩させました。彼はとても楽しそうでした。」

AIは、

「彼」

が誰なのかを理解する必要があります。

セルフアテンションは、

「彼」
↓
「太郎」

の関係が強い、と判断します。

⑤「重み付けを行う」とは？

重み付けとは、

どの言葉を重要視するか決めること

例えば、

文章：

「私は昨日買った赤い車に乗っています」

AIは、

「車」
「乗っています」

は重要。

「昨日」
「赤い」

は少し補助的。

というように、単語ごとの重要度を計算します。

全体の流れ

エンコーダーの仕事はこうです。

文章
 ↓
単語を数字（ベクトル）に変換
 ↓
単語同士の関係を見る
（セルフアテンション）
 ↓
重要度を計算
 ↓
文章の意味を理解する

デコーダー（Decoder）の目標とは

次に来る言葉を予測して文章を生成する部分。デコーダー（Decoder）とは、理解した情報をもとに、新しい文章を生成するAIの部分。

エンコーダーが「読む・理解する」なら、デコーダーは「書く・作る」役割

シーケンス内の次のトークンとは

まず「トークン」とは、AIが扱う文章の小さな単位

文章：「私は猫が好き」

トークン：

私
は
猫
が
好き

セルフアテンション機構（Self-Attention）とは

Transformerの重要な仕組み。文章の中で、どの単語が重要かを判断する仕組み

例：「彼は銀行へ行った。そこでお金を下ろした。」

この場合、「そこで」が指している場所は、「銀行」だと理解します。セルフアテンションは、文章内の単語同士の関係を見ることができます。

なお、GPT（ChatGPTの基盤）は主にデコーダー型Transformerです。一方、BERTはエンコーダー型Transformerとして有名です。ここはAI-901でも「GPT＝生成」「BERT＝理解」という整理で覚えると解きやすいです。

生成AIのタスク例

要約
分類
質問応答
感情分析
対話生成
文章生成
コード生成
翻訳

Azure OpenAIサービスとは

Microsoft Azure上で、OpenAIのAIモデルを利用できるサービスです。

問題

顧客からの問い合わせに対して、人間のような文章で回答するAIチャットボットを作成したい。どのモデルを使用すべきですか？
→✅ GPT

ユーザーが入力した説明文から画像を生成するアプリケーションを作成したい。どのモデルを使用しますか？
→✅ DALL-E

会議の録音データを文字起こししたい。どのモデルを使用しますか？
→✅ Whisper

Azure OpenAI Serviceを利用する主な目的は何ですか？
→✅ Azure環境でOpenAIのモデルを利用するため

企業が自社アプリケーションに生成AI機能を組み込みたい場合、適したサービスはどれですか？
→✅ Azure OpenAI Service。API経由でアプリに組み込めるため。

アプリケーションからAzure OpenAIモデルへリクエストを送信するために必要なものは？
→✅ エンドポイント

自社アプリ
↓
APIリクエスト
↓
Azure OpenAIエンドポイント
↓
GPTモデル
↓
回答

大量の文章から要約を作成したい。適切なAIの種類は？
→✅ 生成AI（Generative AI）

プロンプトエンジニアリングとは

AIから望ましい回答を得るために、入力する指示（プロンプト）を工夫する技術。AIへの質問・指示の出し方を設計すること

✅ 良い例：

「あなたは営業担当者です。取引先へのお礼メールを作成してください。丁寧なビジネス文で、300文字以内にしてください。」

すると、AIは目的・役割・条件を理解しやすくなります。

プロンプトで指定するとよいもの

役割：「あなたは専門家です」
目的：「報告書を作成してください」
条件：「300文字以内」
形式：「表形式で出してください」
対象者：「初心者向けに説明してください」

など。

問題

GPTモデルに対して、期待する回答を得るために入力する指示文を何と呼びますか？
→✅ プロンプト

プレイグラウンドとは

AIモデルを実際に試すためのテスト画面

エンティティ（Entity）とは

文章から取り出したい重要なもの

意図（Intent）＝ユーザーが何をしたいか
エンティティ（Entity）＝そのために必要な具体的な情報

Azure OpenAI（GPTなど）でAIの「役割やルール」を最初に設定する方法

「あなたはデータ分析の専門家です」「初心者にも分かるように説明してください」

のような設定を入れておくことができます。これがシステムメッセージ。

用語	意味	簡単な説明	例
ハルシネーション（Hallucination）	AIが事実ではない情報を生成する現象	AIが「もっともらしい嘘」を回答してしまうこと	存在しない論文名や人物名を作る
ハルシネーションの原因	AIが間違える理由	AIは「事実を検索して答える」のではなく、学習したパターンから次の言葉を予測しているため	「分からない」と言わず、自然な文章を作ってしまう
フューショット学習（Few-shot Learning）	少ない例をAIに示して能力を調整する方法	AIに「こういう回答をして」と例を見せる	例：「質問→回答」のパターンを数個提示する
Transact-SQL（T-SQL）	Microsoft SQL Serverで使われるSQL言語	データベースからデータを取得・操作するための言語	売上データを検索するSQLを書く
グラウンディング（Grounding）	AIの回答を現実のデータや根拠に結びつけること	AIが勝手に答えず、信頼できる情報をもとに回答するようにする	社内資料を参照して回答する
取得拡張生成（RAG）	Retrieval Augmented Generation	外部データを検索してからAIに回答させる仕組み	社内マニュアルを検索→GPTが回答
RAG	取得拡張生成の略	生成AIの弱点（知らない情報・古い情報）を補う方法	「自社規定について答えるAI」

「ハルシネーション → RAGで軽減する」

ファインチューニングとは

既に学習済みのAIモデルに、追加のデータで再調整（追加学習）を行い、特定の目的に適したAIにすることです。

既存のAIを、自分の用途向けに「専門家化」すること

RAGとの違い

	ファインチューニング	RAG
目的	AIモデル自体を調整する	回答時に外部情報を参照する
方法	追加学習する	検索して情報を渡す
得意なこと	回答の傾向・形式・専門性を変える	最新情報や社内情報を使う
データ	モデルに覚えさせる	必要な時に検索する

画像データの入力と生成

GPT-4oとは？

GPT-4oの「o」は omni（オムニ：全て） という意味です。

文章だけでなく、画像・音声など複数の情報を扱えるAIモデル

マルチモーダルとは？

複数の種類の情報（モダリティ）を扱うことです。

DALL-Eとは？

「こんな画像を作って」と文章で指示すると、画像を作るAI

Copilotとは

チャットボットで、生成AIモデルと対話することができるAIアシスタントのこと。

Copilot

Microsoft Copilotは、Edgeブラウザーに統合されている。

OneDriveに格納したWordの内容を、PowerPointのプレゼンテーションとして作成することができる。また、Microsoft３６５アプリケーションで使用が可能。

「セキュリティについて」
職場アカウント、または学校アカウントでサインインしている場合は、チャットデータは保護されているため、漏洩することはない。使用されたデータは保存されない。

Microsoft Graphとは
Microsoftの各種サービスをプログラムから操作するための「窓口」。Microsoft 365のサービスやデータにアクセスするためのAPI（仕組み）

試験では、

「Microsoft 365のデータにアクセスするためのAPIは？」

↓

✅ Microsoft Graph

と覚えておけば大丈夫

Dynamics 365とは？

Microsoftが提供する企業向け業務アプリケーション群です。

会社の、

顧客管理
営業管理
問い合わせ対応
財務管理
在庫管理

などを行うシステム

Copilot for Dynamics 365とは？

営業・カスタマーサービス・管理業務をAIで支援する機能

例えば、

メール文章を作る
会議内容を要約する
顧客情報を分析する
次の対応を提案する

などを行います。

CRMとは？

Customer Relationship Management（顧客関係管理）の略。

お客様との関係を管理する仕組み

管理するもの：

顧客名
連絡履歴
購入履歴
問い合わせ内容
商談状況

など。

ERPとは？

Enterprise Resource Planning（企業資源計画）の略。

会社のお金・人・物を管理する仕組み

管理するもの：

会計
財務
在庫
生産
人事

など。

Dynamics 365 Customer Serviceとは？

顧客サポート（問い合わせ対応）向けのDynamics 365

例えば、

お客様：「商品の返品方法を教えてください」

↓

Customer Service：

問い合わせ履歴を見る
過去の対応を確認
AIが回答案を作る

などができます。

Dynamics 365 Salesとは？

営業活動を支援するDynamics 365

管理するもの：

見込み客
商談
売上予測
顧客とのやり取り

その他、Copilot＝Microsoft製品に組み込まれたAIアシスタント

名称	何のためのCopilot？	主な利用者	できること

Copilot in Microsoft Fabric

データ分析・データ基盤向け

データ分析者、データエンジニア

データ分析、SQLやコード作成支援、分析結果作成

Copilot in Power BI

BI（データ可視化）向け

分析担当者、経営層

レポート作成、データ分析、グラフ作成支援

Microsoft Copilot for Security

セキュリティ向け

セキュリティ担当者

脅威分析、インシデント調査、対応支援

Microsoft Copilot for Azure

Azure管理向け

クラウド管理者、エンジニア

Azure環境の管理、トラブル解決支援

GitHub Copilot

プログラム開発向け

開発者

コード生成、コード説明、修正

GitHub Copilot X

GitHub Copilotを拡張した開発支援構想

開発者

チャット、コードレビュー、開発全体支援

カスタムできるCopilot

Copilot Studio

ローコードで独自のCopilotを作成できる。Teamsなどと統合できる。

カスタムCopilotを作成するには、トピックを準備する。トピックとは、会話パスを定義する要素。

トリガーフレーズ・・・質問や特定のキーワード
メッセージノード・・・チャットボットからの応答

生成AIモデルを使用して応答できるように構成もできる。カスタムCopilot画面の、「ナレッジの追加」で設定可能。作成したCopilotは、Teams、Slack、LINEなどで発行できる。

業務シナリオに合わせて構築したい場合→プロンプトフローを使用する

Azure AI Studio
開発者が、カスタムCopilotを構築し、Azureのサービスとしてデプロイしたい場合に使用

まとめ

text-embedding-ada-002→テキストをベクトルに変換するモデル

トランスフォーマーモデルのアーキテクチャ
・エンコーダーとデコーダーを持つ深層学習モデル
・セルフアテンション機構を使用

トランスフォーマーモデルのデコーダーでの処理
トークン化→埋め込み計算→次のトークンの予測

GPT-4モデルで、応答の品質を向上させるプロンプトエンジニアリングの手法
・プロンプトに明確な指示を記述
・システムメッセージにモデルの具体的な役割を記述
・例を追加
・グラウンディングデータの追加

ファインチューニング手法
・新たなトレーニングデータでモデルの再訓練

アプリの開発時に、コードの説明文の生成、必要なコードを支援してくれるリソース
・GitHub Copilot
・Azure OpenAI GTP-4

用語	簡潔な意味
トランスフォーマー（Transformer）	現在の生成AI（GPTなど）の基本となるAIの仕組み（アーキテクチャ）
エンコーダー（Encoder）	入力された文章を読んで意味を理解する部分
デコーダー（Decoder）	理解した内容をもとに、新しい文章を生成する部分