Azure OpenAI Serviceとは？On Your Data・Azure ChatGPTでChatGPTを社内でセキュア活用！

ChatGPTを自社ビジネスで活用したいと考え、検討を進めている企業は多くあります。その中でも昨今注目を集めているのがMicrosoftの提供するAzure OpenAI Serviceです。

Azure OpenAI Serviceを活用することで、OpenAI社の提供しているChatGPTを、よりセキュアに、またカスタマイズして活用することが可能になるとのことで、ChatGPTを導入した企業での活用が進んでいます。

ChatGPTの仕組み、活用事例、注意点を詳しく説明しています。

また、新たに公開された「On Your Data」 機能により、自社データを活用してChatGPTを使うことができるようになりました。さらに、企業内AIチャット構築の真打とも期待される「Azure ChatGPT」がMicrosoftから電撃的に発表されています。

この記事では、Azure OpenAI Serviceの概要や導入の仕方を説明します。後半ではOn Your Data、Azure ChatGPTについて詳しく解説していきます。ChatGPTで自社データを活用したいと考えている方、興味がある方は、是非最後までご覧ください。

AI MarketではAzure OpenAI Serviceを得意とする開発会社の選定・紹介を行っています。貴社に最適な会社に手間なく数日で出会えます。
貴社の要望に応えることが可能な企業複数社の紹介が可能で、相見積もり・比較もすぐに実施可能。
プロのAIコンサルタントが貴社の代わりに数社選定しますので、開発会社の選定に迷ったり、相談方法がわからなかったら、累計500件以上の相談実績を持つAI Marketへ、いつでもお気軽にご相談ください。

ChatGPTを社内導入支援を得意とする開発会社を自力で探したい方のために企業リストを提供しております。

Azure OpenAI Serviceとは？

Azure OpenAI Serviceとは、マイクロソフト社が多様なクラウドサービスを提供する「Microsoft Azure」において、オープンソースの人工知能（AI）が利用できるサービスです。Azure OpenAI Serviceでは、複数のAIモデルを利用してサービス開発ができます。

大きなニュースとなった株式会社ベネッセホールディングスの社内AIチャットサービス「Benesse GPT」もAzure OpenAI Serviceを基にしています。

関連記事：「Azure OpenAI Service」を活用した社内AIチャット「Benesse GPT」

実際に利用できるAIモデルには、以下の通りです。

• GPT-3.5モデル
• GPT-4モデル
• DALL-E（画像生成）
• Codexモデル
• 埋め込みモデル

GPT-3シリーズは、ChatGPTなどの自然言語を理解・生成できるモデルのシリーズです。GPT-4シリーズでは、画像を解析し内容を文章で出力できるなどの高度な能力を持つChatGPT4.0を利用することができます。

Codex モデル シリーズは GPT-3 シリーズの後継です。埋め込みモデルは、機械学習における「埋め込み」のために使用できるモデルセットです。「類似性、テキスト検索、コード検索」といった埋め込みモデルがあります。

Microsoftとしては、一般用にはBing AI、企業用にはAzureで使い分けを提示して、一気にAIの覇権を握ろうとしているものと思われます。

関連記事：「ChatGPTとBing AI Chatの違いは？強みと弱み、ビジネスへの活用方法徹底解説！」

On Your Dataとは?

Azure OpenAI Serviceにおいて、新たに「On Your Data 機能」のパブリックプレビューが開始されました。On Your Data 機能を使うことで、ChatGPTやBingのようなチャットによる検索を自社データに対して行う簡易的なアプリケーションを、コードを書かずに開発することができます。

これまでも自社データをチャット形式で検索する仕組みはありましたが、On Your Data機能により、技術的なハードルが低くなりました。

On Your Dataの仕組みについては、以下の見出し「On Your Dataの仕組み」で解説します。

Azure ChatGPTとは？

2023年8月に発表されたAzure ChatGPTは、企業向けのプライベートおよびセキュアなChatGPTサービスです。企業内データに限定して活用できるChatGPTクローン製造機とも言えます。このサービスが、社内でのChatGPTライクなAIチャットを構築するための最終決定版になるのではないかと期待されています。

ChatGPTChatGPTの人気が爆発的に高まる中、企業はこのサービスをより効率的に、また創造的なアシスタントとして活用したいと考えています。しかし、ChatGPTの使用には機密知的財産の漏洩のリスクがあります。Azure ChatGPTは、企業がプライベートなChatGPTとして提供するためのオプションです。

関連記事：「MicrosoftがAzure ChatGPTを発表！社内用ChatGPTクローン製造ツールの決定版」

Azure OpenAI Serviceの6つのメリット

Azure OpenAI Serviceのメリットは以下があります。

• データセキュリティ
• コンプライアンスに即した運用
• アクセス制御の柔軟な管理
• 監査ログでリアルタイム対応
• 高い可用性
• 導入しやすい

それぞれの詳細を解説します。

ChatGPTを商用利用する場合の注意点をこちらの記事で詳しく説明していますので併せてご覧ください。

データセキュリティ

Azure OpenAI Serviceは、データの保護に力を入れています。送信されたデータは暗号化され、Azureのデータセンターに保管されているため、データ通信時や保管しているデータの安全性が確保できます。

ChatGPTの情報セキュリティ、情報漏洩した事例をこちらの記事で詳しく説明していますので併せてご覧ください。

コンプライアンスに即した運用

Azureは、GDPR（一般データ保護規則）、HIPAA（健康情報保護法）などの主要な規制や認証に対応しており、企業が業界標準や法規制に適合することを容易にします。また、サービス利用時には「責任あるAI使用に関するMicrosoftの原則」に同意するなど、高いコンプライアンスのもと運用できます。

アクセス制御の柔軟な管理

Azure Active Directoryを使用して、アクティブディレクトリの監視やアカウントの権限設定を行うことができます。誰が利用しているのか監視やアクセス権を管理することで、情報の漏洩リスクを低減できます。

監査ログでリアルタイム対応

Azureでは、すべての操作に関する監査ログが生成され、セキュリティチームによってリアルタイムで監視されています。これにより、異常なアクセスや不正な操作があった場合に、迅速に対処することができます。

高い可用性

Azure OpenAI Serviceは、99.99%という非常に高い可用性を保証しています。可用性とは、サービスが障害などでシステムが停止することなく稼働し続ける仕組みのことです。

Azure OpenAI Serviceでは、0.01%以上システムが停止した場合は、クレジットがAzureから配られる仕組みとなっています。システムをつくる上で、Azure OpenAI Serviceの高い可用性は企業での利用に向いているといえます。

導入しやすい

Azure OpenAI ServiceはAzureのクラウドサービスであるため、導入しやすいのが特徴です。自社でチャットボットや自社用のシステムを構築するには専用のサーバーやアプリケーションが必要になることが多くあります。

しかし、Azure OpenAI Serviceはサービスをクラウドで提供しているため、大規模なシステムやサーバーを構築する手間がかかりません。

また、Azure OpenAI Serviceは、OpenAIのサービスを利用するため、最低限のプログラミング言語とAIに関する知識は必要ですが、AIを一から作るための専門的な知識がなくても開発が可能という点でも導入しやすい点もメリットです。

AI MarketではAzure OpenAI Serviceを得意とする開発会社の選定・紹介を行っています。貴社に最適な会社に手間なく数日で出会えます。
貴社の要望に応えることが可能な企業複数社の紹介が可能で、相見積もり・比較もすぐに実施可能。

プロのAIコンサルタントが貴社の代わりに数社選定しますので、開発会社の選定に迷ったり、相談方法がわからなかったら、累計500件以上の相談実績を持つAI Marketへ、いつでもお気軽にご相談ください。

Azure OpenAI ServiceとOpenAI APIの違いとは？

Azure OpenAI Serviceと同様に、外部システムからAPI連携でChatGPTが使用できる「ChatGPT API（OpenAI API）」というサービスがありますが、どのような違いがあるでしょうか？

以下の表にまとめました。

Azure OpenAI Serviceは、Azure（Microsoft社）が提供するものであるため、そのサービスはAzureに準拠する形となっています。Microsoft社が提供するしっかりとしたセキュリティやSLA、サポートが特徴的です。

一方、ChatGPT APIはOpenAI社でAPI連携を行うもので、OpenAI社のセキュリティや料金体系に基づきます。導入ハードルはAzure OpenAI Serviceほど高くありませんが、機能は限定されますし、入力したデータはOpenAI社に送信されます。

ChatGPTを会社利用する方法、注意点をこちらで詳しく説明しています。

Azure OpenAI Serviceの導入手順4ステップ

Azure OpenAI Serviceを導入する手順について説明します。

1.Azureサブスクリプションアカウントを作成する

Azure OpenAIを利用するためには、Azureサブスクリプションアカウントが必要になります。お持ちでない方は、Microsoft社に申し込みを行ってください。

2.Azure OpenAI Serviceへのアクセスを申請する

Azureサブスクリプションアカウントが作成できたら、Azure OpenAI Serviceへのアクセスを申請します。

「申請フォーム」で、AzureサブスクリプションID、メールアドレス、ユースケースの概要などの必要事項を入力してください。「責任あるAI使用に関するMicrosoftの原則」等に同意して申請を行います。

Microsoftから承認のメールが届くと、Azureポータルから利用を開始することができます。

3.Azure OpenAI を使用してリソースを作成し、モデルをデプロイする

Azure OpenAI Serviceにアクセスを取得したら、Azureポータルにログインして、Azure OpenAIリソースを作成し使用したいモデルをデプロイします。

4.Azure OpenAI Studioや独立したWebアプリケーションとして利用する

Azure OpenAI Studioのチャット用プレイグラウンドで実際にチャットを行うことや、独立したWebアプリケーションとしてデプロイして利用できます。

On Your Dataの仕組み

On Your Dataは以下の仕組みで自社データを検索します。

1.デプロイしたAzure OpenAI Serviceでデータソースを選択する
Azure Cognitive Search、Azure Blob Storage、Upload filesの3種類からデータソースを選択します。

2.プロンプトを入力し検索する
Azure OpenAI Studioのチャット用プレイグラウンドや、デプロイしたWebアプリケーションでプロンプトを入力して検索します。

3.選択されたデータソースから検索し回答する
選択した3種類のデータソースから、プロンプトの内容を検索し、ユーザーに回答します。Azure Cognitive Searchは事前にインデックスの設定、Azure Blob Storageはストレージにデータを保存しておく必要があります。

On Your Dataでできること

On Your Dataでできることは以下の通りです。

• 既存のAzureシステムとの連携
• 非構造化データの検索
• 社内専用チャットボット作成

それぞれの詳細を解説します。

既存のAzureシステムとの連携

On Your Dataは、Azure Cognitive SearchやAzure Blob Storageにアクセスしてユーザーのプロンプトに返答していく仕組みです。Azureサービスとしてこれらを既に利用している場合は、デプロイすればすぐに使用可能となります。

非構造化データの検索

ChatGPTに代表されるLLMモデルで、図や画像、音楽といった非構造化データを扱うには、何らかの形でデータを変換する手間やコストが発生します。しかし、On Your Dataで使用するAzure Cognitive Searchは「コグニティブ検索機能」でインデックスを作成して検索可能なコンテンツに変換することで、比較的簡単に非構造化データの検索が可能となります。

また、Azure Blob Storageでは非構造化データの保存もできます。データソースでAzure Blob StorageAIを選択することで、AIがデータを構造化して検索可能にすることや、インデックスを追加して検索可能にすることもできます。

社内チャットボットの作成

On Your Dataを活用すれば、自社データを取り込んだ社内チャットボットを作成できます。従来のChatGPTは、一般的な検索や文章の要約、作成などを行うものでしたが、社内規定や自社特有のデータ・ルールに関する対応を行うことはできませんでした。

しかし、On Your Dataを使えば、ChatGPTと同じように質問をして、自社のデータソースから検索して回答を行うことができます。通常のチャットボットアプリケーションと違うのは、ChatGPTを利用することで、検索の際の文脈やゆらぎを読み取り、最適な回答ができる点です。

Azure OpenAI Serviceについてよくある質問まとめ

まとめ

Azure OpenAI Serviceは、Azure上でChatGPTをはじめとする、OpenAI社が提供するオープンソースAIを使用することができます。API連携を行えば、Azure以外のアプリケーションに組み込むことも可能です。新たにパブリックプレビューされた「On Your Data機能」は、自社データをCognitive SearchやBlob Storageに格納することで、自社特有の情報を活用したチャットボットの開発・運用が比較的容易になるサービスです。

これまでは、一からチャットボットを開発し、自社データをプログラムに組み込む必要がありましたが、On Your DataによりローコードでChatGPTを使ったチャットボットが使用できるようになりました。ただし、まだ日本語での検索の精度が高くなく、設定等を行う必要があるため、専門知識が必要な部分もあります。

AI MarketではAzure OpenAI Serviceを得意とする開発会社の選定・紹介を行っています。貴社に最適な会社に手間なく数日で出会えます。
貴社の要望に応えることが可能な企業複数社の紹介が可能で、相見積もり・比較もすぐに実施可能。

プロのAIコンサルタントが貴社の代わりに数社選定しますので、開発会社の選定に迷ったり、相談方法がわからなかったら、累計500件以上の相談実績を持つAI Marketへ、いつでもお気軽にご相談ください。

　下記の記事も一緒によく読まれています

ヘッドウォータース、「Azure OpenAI Service」利用企業支援サービス「プロンプトエンジニアリングラボ」開始 Sun Asterisk、「AI*deation」などを活用して「Azure OpenAI Service」のプロダクト開発支援を強化 ベネッセグループ、「Azure OpenAI Service」を活用した社内AIチャットサービス「Benesse GPT」を提供開始 ChatGPTのAdvanced Data Analysis（旧：Code Interpreter）とは？Plusユーザーしか使えない？活用例徹底解説！ ChatGPTとExcelを連携すると何ができる？Advanced Data Analysis（旧：Code Interpreter）の活用方法は？マクロもVBAも簡単解決！