Azure OpenAI Serviceとは？使えるモデルは？APIやRAGでChatGPTをセキュア活用・カスタマイズする方法を徹底解説！

ChatGPTを自社ビジネスで活用したいと考え、検討を進めている企業は多くあります。その中でも昨今注目を集めているのがMicrosoftの提供するAzure OpenAI Serviceです。

Azure OpenAI Serviceを活用することで、OpenAI社の提供しているChatGPTを、よりセキュアに、またカスタマイズして活用することが可能になるとのことで、ChatGPTを導入した企業での活用が進んでいます。

ChatGPTの仕組み、活用事例、注意点を詳しく説明しています。

また、「On Your Data」 機能により、自社データを活用してChatGPTを使うことがより簡単にできるようになりました。さらに、企業内AIチャット構築の真打とも期待される「Azure ChatGPT」がMicrosoftから電撃的に発表されています。

この記事では、Azure OpenAI Serviceの概要や導入の仕方を説明します。後半ではOn Your Data、Azure ChatGPTについて詳しく解説していきます。ChatGPTで自社データを活用したいと考えている方、興味がある方は、是非最後までご覧ください。

AI MarketではAzure OpenAI Serviceを得意とする開発会社の選定・紹介を行っています。貴社に最適な会社に手間なく数日で出会えます。貴社の要望に応えることが可能な企業複数社の紹介が可能で、相見積もり・比較もすぐに実施可能。

プロのAIコンサルタントが貴社の代わりに数社選定しますので、開発会社の選定に迷ったり、相談方法がわからなかったら、累計1,000件以上の相談実績を持つAI Marketへ、いつでもお気軽にご相談ください。

ChatGPTを社内導入支援を得意とする開発会社を自力で探したい方のために企業リストを提供しております。

Azure OpenAI Serviceとは？

Azure OpenAI Serviceとは、Microsoftが多様なクラウドサービスを提供する「Microsoft Azure AI」において、オープンソースの人工知能（AI）が利用できるサービスです。Azure OpenAI Serviceでは、複数のAIモデルを利用してサービス開発ができます。

大きなニュースとなった株式会社ベネッセホールディングスの社内AIチャットサービス「Benesse GPT」もAzure OpenAI Serviceを基にしています。

実際に利用できるAIモデルには、以下のように様々なモデルがあり、ニーズに応じた使い方が可能です。

• GPT-4o audio（Realtime）
• OpenAI o1-preview/OpenAI o1-mini（2024年9月時点 限定アクセス/審査要）
• GPT-4o mini
• GPT-4o
• GPT-4 Turbo/GPT-4
• GPT-3.5 Turbo
• Codex（2024年9月時点利用不可）
• Embeddings（埋め込み）
• DALL･E（画像生成）
• Whisper（音声認識モデル）
• テキスト読み上げ（音声合成）

関連記事：「AI導入用APIをプラットフォーム別に紹介！各ツールの特徴を徹底解説！」

GPT-4o audio

GPT-4oファミリーの一つであるGPT-4o audioでは、待機時間の非常に少ない音声入力（音声認識）及び音声出力（音声生成）を提供するモデルです。OpenAIのAPIでは、「GPT-4o Realtime」として提供されています。

リアルタイムでの会話を行うことを可能とし、翻訳や音声アシスタントなど、早い応答速度を必要とする際に役立ちます。

OpenAI o1-preview/OpenAI o1-mini

2024年9月に発表されたo1-previewとo1-miniは、科学・数学・コーディングの難問解決能力を向上させたモデルです。

o1-previewは、応答時間が長くなる代わりに、より精度の高い出力を可能としています。また、o1-miniはコーディングを得意としたモデルです。

GPT-4o mini

2024年7月に発表されたGPT-4o miniは、GPT-4oの小型モデルです。SLM（小規模言語モデル）である点が特徴的で、これにより他のモデルと比較して、コストパフォーマンスに優れています。

GPT-4o

2024年5月に発表されたGPT-4oは、マルチモーダル機能をより洗練させ、テキスト・画像・音声等の複数データを同時に、シームレスに処理できるようになったモデルで、人間との自然な音声対話を実現することができるモデルです。

また、コード生成については、GPT-4 Turboに匹敵するベンチマークを誇ります。

GPT-4 Turbo/GPT-4

チャット（対話）に最適化されたLLM（大規模言語モデル）で、AIを用いた自然なコミュニケーションを可能とします。

GPT-4 Turbo/GPT-4の特徴として、マルチモーダルAIで、テキスト生成だけでなく、画像認識も可能な点があげられます。また、GPT-3.5と比較しても、より高度な認識、出力を可能とします。

GPT-3.5 Turbo

GPT-4同様、チャット（対話）に最適化されたLLM（大規模言語モデル）で、自然なコミュニケーションを実現します。

Codex

GPT-3ベースで構築された、コード生成モデルです。数十億を超える実際のコードを元に学習されており、C#、JavaScript、Go、Perl、PHP、Rubyなど、12言語を超えるコード生成を可能とします。

Codexは、テキストからコード変換、コメント追加、効率化を目的としたコードの書き換えなど、様々なタスクをこなします。

なお、2024年9月時点では本モデルは使用できません。

Embeddings（埋め込み）

Embeddings（埋め込み）とは、画像や自然言語を「ベクトル化（＝コンピュータが読み込み可能な数値化）」して、テキスト間の関係性・類似性を計算することができるようにするモデルです。

RAG技術などを用いて、企業独自のデータ（例えば製品情報など）を元に回答を生成したい場合などで利用されます。

Azure OpenAIでは、text-embedding-3-large、text-embedding-3-small、text-embedding-ada-002の3つのモデルを利用可能です。

関連記事：「ChatGPTの課題はRAGで解決できる？実装方法・活用事例・注意点を徹底解説！」

関連記事：「Embedding(埋め込み表現)とは？自然言語処理での必要性・活用事例・実装手順を徹底解説！」

DALL･E（画像生成）

テキストを元に、画像を生成することが可能なモデルです。DALL･Eとは、旧バージョンのDALL･E 2に加え、より高精度な画像生成を可能とするDALL･E 3を利用可能です。

Whisper（音声認識モデル）

Whisperとは、音声データを文字起こしすることが可能な音声のテキスト変換モデルで、日本語の音声でも精度高く認識が可能です。

Azureでは、類似のモデルとしてAzure AI Speechというモデルも提供されており、高速処理にはAzure OpenAIのWhisperモデル、大きなファイルの処理にはAzure AI Speechを介したWhisperモデルが推奨されています。

関連記事：「音声認識AI「Whisper」とは？強み・活用方法・注意点を徹底解説！」

テキスト読み上げ（音声合成）

テキスト読み上げ（音声合成）では、テキストを元に、自然で高品質な音声を合成します。Azureでは、OpenAIテキスト読み上げの他に、Azure AI 音声サービスなども提供されており、ニーズに応じた使い分けが推奨されています。

Microsoftとしては、個人・一般企業向けにはMicrosoft Copilot（旧　Bing AI Chat）、独自のシステムを構築したい企業向けにAzure OpenAIで使い分けを提示しています。

Microsoft Copilotとは？何ができる？こちらの記事で詳しく説明していますので併せてご覧ください。

Azure ChatGPTとは？

2023年8月に発表されたAzure ChatGPTは、企業向けのプライベートおよびセキュアなChatGPTサービスです。企業内データに限定して活用できるChatGPTクローン製造機とも言えます。このサービスが、社内でのChatGPTライクなAIチャットを構築するための最終決定版になるのではないかと期待されています。

ChatGPTChatGPTの人気が爆発的に高まる中、企業はこのサービスをより効率的に、また創造的なアシスタントとして活用したいと考えています。しかし、ChatGPTの使用には機密知的財産の漏洩のリスクがあります。Azure ChatGPTは、企業がプライベートなChatGPTとして提供するためのオプションです。

関連記事：「MicrosoftがAzure ChatGPTを発表！社内用ChatGPTクローン製造ツールの決定版」

Azure OpenAIで独自データを活用するOn Your Data（RAG）

Azure OpenAI Serviceにおいて、「On Your Data 機能」が2024年2月にリリースされました。

On Your Data 機能を使うことで、独自データを活用した対話型AIシステムを開発することができます。Microsoftの言い方をすれば、社内用のCopilotを簡単に自作できます。

これまでも自社データをチャット形式で検索する仕組みはありましたが、On Your Data機能により、技術的なハードルが低くなりました。いわゆるRAGと呼ばれる技術を活用して外部データベースを参照させられます。これにより、社内システムやAzureのストレージに保存されているファイルを簡単にGPT-4に参照させることができるようになり、企業独自のデータを活用した対話システムを構築することが可能になります。

また、プライベート エンドポイントと VPN を介して自作したCopilotのセキュリティを確保できます。社外に開放するユースケースでも、特定のドキュメントへのアクセスを制限できるドキュメント レベルのアクセス制御が提供されています。

On Your Dataの仕組み

On Your Dataは以下の仕組みで自社データを検索します。

1.デプロイしたAzure OpenAI Serviceでデータソースを選択する
Azure AI Search(旧 Azure Cognitive Search）、Azure Blob Storage、Upload files、URL/Web アドレスの4種類からデータソースを選択します。

2.プロンプトを入力し検索する
Azure OpenAI Studioのチャット用プレイグラウンドや、デプロイしたWebアプリケーションでプロンプトを入力して検索します。

3.選択されたデータソースから検索し回答する
選択した4種類のデータソースから、プロンプトの内容を検索し、ユーザーに回答します。Azure AI Search(旧 Azure Cognitive Search）は事前にインデックスの設定、Azure Blob Storageはストレージにデータを保存しておく必要があります。

On Your Dataでできること

On Your Dataでできることは以下の通りです。

• 既存のAzureシステムとの連携
• 非構造化データの検索
• 独自データを活用したチャットボット作成

それぞれの詳細を解説します。

既存のAzureシステムとの連携

On Your Dataは、Azure AI Search(旧 Azure Cognitive Search）やAzure Blob Storageにアクセスしてユーザーのプロンプトに返答していく仕組みです。Azureサービスとしてこれらを既に利用している場合は、デプロイすればすぐに使用可能となります。

非構造化データの検索

ChatGPTに代表されるLLMモデルで、図や画像、音楽といった非構造化データを扱うには、何らかの形でデータを変換する手間やコストが発生します。しかし、On Your Dataで使用するAzure AI Search(旧 Azure Cognitive Search）は「コグニティブ検索機能」でインデックスを作成して検索可能なコンテンツに変換することで、比較的簡単に非構造化データの検索が可能となります。

また、Azure Blob Storageでは非構造化データの保存もできます。データソースでAzure Blob StorageAIを選択することで、AIがデータを構造化して検索可能にすることや、インデックスを追加して検索可能にすることもできます。

独自データを活用したチャットボットの作成

On Your Dataを活用すれば、自社データを取り込んだチャットボットを作成できます。従来のChatGPTは、一般的な検索や文章の要約、作成などを、すでに学習されているデータを元に行うもので、社内規定や自社特有のデータ・ルールに関する対応を行うことはできませんでした。

しかし、On Your Dataを使えば、ChatGPTと同じように質問をして、自社のデータソースから検索して回答を行うことができます。

Azure OpenAI Serviceの6つのメリット

Azure OpenAI Serviceのメリットは以下があります。

• データセキュリティ
• コンプライアンスに即した運用
• アクセス制御の柔軟な管理
• 監査ログでリアルタイム対応
• 高い可用性
• 導入しやすい

それぞれの詳細を解説します。

ChatGPTを商用利用する場合の注意点をこちらの記事で詳しく説明していますので併せてご覧ください。

データセキュリティ

Azure OpenAI Serviceは、データの保護に力を入れています。送信されたデータは暗号化され、Azureのデータセンターに保管されているため、データ通信時や保管しているデータの安全性が確保できます。

ChatGPTの情報セキュリティ、情報漏洩した事例をこちらの記事で詳しく説明していますので併せてご覧ください。

コンプライアンスに即した運用

Azureは、GDPR（一般データ保護規則）、HIPAA（健康情報保護法）などの主要な規制や認証に対応しており、企業が業界標準や法規制に適合することを容易にします。また、サービス利用時には「責任あるAI使用に関するMicrosoftの原則」に同意するなど、高いコンプライアンスのもと運用できます。

アクセス制御の柔軟な管理

Azure Active Directoryを使用して、アクティブディレクトリの監視やアカウントの権限設定を行うことができます。誰が利用しているのか監視やアクセス権を管理することで、情報の漏洩リスクを低減できます。

監査ログでリアルタイム対応

Azureでは、すべての操作に関する監査ログが生成され、セキュリティチームによってリアルタイムで監視されています。これにより、異常なアクセスや不正な操作があった場合に、迅速に対処することができます。

高い可用性

Azure OpenAI Serviceは、99.99%という非常に高い可用性を保証しています。可用性とは、サービスが障害などでシステムが停止することなく稼働し続ける仕組みのことです。

Azure OpenAI Serviceでは、0.01%以上システムが停止した場合は、クレジットがAzureから配られる仕組みとなっています。システムをつくる上で、Azure OpenAI Serviceの高い可用性は企業での利用に向いているといえます。

導入しやすい

Azure OpenAI ServiceはAzureのクラウドサービスであるため、導入しやすいのが特徴です。自社でチャットボットや自社用のシステムを構築するには専用のサーバーやアプリケーションが必要になることが多くあります。

しかし、Azure OpenAI Serviceはサービスをクラウドで提供しているため、大規模なシステムやサーバーを構築する手間がかかりません。

また、Azure OpenAI Serviceは、OpenAIのサービスを利用するため、最低限のプログラミング言語とAIに関する知識は必要ですが、AIを一から作るための専門的な知識がなくても開発が可能という点でも導入しやすい点もメリットです。

AI MarketではAzure OpenAI Serviceを得意とする開発会社の選定・紹介を行っています。貴社に最適な会社に手間なく数日で出会えます。貴社の要望に応えることが可能な企業複数社の紹介が可能で、相見積もり・比較もすぐに実施可能。

プロのAIコンサルタントが貴社の代わりに数社選定しますので、開発会社の選定に迷ったり、相談方法がわからなかったら、累計1,000件以上の相談実績を持つAI Marketへ、いつでもお気軽にご相談ください。

Azure OpenAI ServiceとOpenAI APIの違いとは？

Azure OpenAI Serviceと同様に、外部システムからAPI連携でChatGPTが使用できる「ChatGPT API（OpenAI API）」というサービスがありますが、どのような違いがあるでしょうか？

以下の表にまとめました。

Azure OpenAI Serviceは、Azure（Microsoft社）が提供するものであるため、そのサービスはAzureに準拠する形となっています。Microsoft社が提供するしっかりとしたセキュリティやSLA、サポートが特徴的です。

一方、ChatGPT APIはOpenAI社でAPI連携を行うもので、OpenAI社のセキュリティや料金体系に基づきます。導入ハードルはAzure OpenAI Serviceほど高くありませんが、機能は限定されますし、入力したデータはOpenAI社に送信されます。

ChatGPTを会社利用する方法、注意点をこちらで詳しく説明しています。

Azure OpenAI Serviceの導入手順4ステップ

Azure OpenAI Serviceを導入する手順・使い方について説明します。

1.Azureサブスクリプションアカウントを作成する

Azure OpenAIを利用するためには、Azureサブスクリプションアカウントが必要になります。お持ちでない方は、Microsoft社に申し込みを行ってください。

関連記事：「Azureのサブスクリプションとは？種類ごとの特徴・リソース管理方法・活用法をわかりやすく解説！」

2.Azure OpenAI Serviceへのアクセスを申請する

Azureサブスクリプションアカウントが作成できたら、Azure OpenAI Serviceへのアクセスを申請します。

「申請フォーム」で、AzureサブスクリプションID、メールアドレス、ユースケースの概要などの必要事項を入力してください。「責任あるAI使用に関するMicrosoftの原則」等に同意して申請を行います。

Microsoftから承認のメールが届くと、Azureポータルから利用を開始することができます。

3.Azure OpenAI を使用してリソースを作成し、モデルをデプロイする

Azure OpenAI Serviceにアクセスを取得したら、Azureポータルにログインして、Azure OpenAIリソースを作成し使用したいモデルをデプロイします。

4.Azure OpenAI Studioや独立したWebアプリケーションとして利用する

Azure OpenAI Studioのチャット用プレイグラウンドで実際にチャットを行うことや、独立したWebアプリケーションとしてデプロイして利用できます。

Azure OpenAI Serviceについてよくある質問まとめ

まとめ

Azure OpenAI Serviceは、Azure上でChatGPTをはじめとする、OpenAI社が提供するオープンソースAIを使用することができます。API連携を行えば、Azure以外のアプリケーションに組み込むことも可能です。新たにパブリックプレビューされた「On Your Data機能」は、自社データをAI Search(旧 Cognitive Search）やBlob Storageに格納することで、自社特有の情報を活用したチャットボットの開発・運用が比較的容易になるサービスです。

これまでは、一からチャットボットを開発し、自社データをプログラムに組み込む必要がありましたが、On Your Dataによりローコードでオリジナルな回答を行うチャットシステム（対話型AI）が使用できるようになりました。ただし、まだ日本語での検索の精度が高くなく、設定等を行う必要があるため、専門知識が必要な部分もあります。

AI MarketではAzure OpenAI Serviceを得意とする開発会社の選定・紹介を行っています。貴社に最適な会社に手間なく数日で出会えます。貴社の要望に応えることが可能な企業複数社の紹介が可能で、相見積もり・比較もすぐに実施可能。

プロのAIコンサルタントが貴社の代わりに数社選定しますので、開発会社の選定に迷ったり、相談方法がわからなかったら、累計1,000件以上の相談実績を持つAI Marketへ、いつでもお気軽にご相談ください。