Anthropic、大規模非同期処理を半額で実現。「Message Batches API」で企業のAI活用を加速

Anthropicは2024年10月9日（現地時間）、新しい「Message Batches API」をパブリックベータ版として公開した。この新APIは、最大10,000クエリまでのバッチ処理を24時間以内に完了し、標準APIコールの50%のコストで提供する。

Claude 3.5 Sonnet、Claude 3 Opus、Claude 3 Haikuに対応し、Amazon Bedrockユーザーもバッチ推論が利用可能。非リアルタイムの大規模データ処理を効率的かつ低コストで実現する画期的なサービスだ。

＜本ニュースの10秒要約＞

• Anthropicが新「Message Batches API」を発表、最大10,000クエリのバッチ処理を24時間以内に完了
• 標準APIコールの50%のコストで提供し、大規模非同期処理の効率化とコスト削減を実現
• Claude 3.5 Sonnet、Claude 3 Opus、Claude 3 Haikuに対応し、Amazon Bedrockユーザーも利用可能

Message Batches APIの特徴と利点

Message Batches APIは、大量のクエリを非同期で処理する強力かつコストパフォーマンスの高い方法を提供する。開発者は最大10,000クエリまでのバッチを送信でき、各バッチは24時間以内に処理される。標準APIコールと比較して50%のコスト削減を実現し、時間に敏感でないタスクの処理をより効率的かつ経済的に行うことができる。

このAPIの主な利点には、高いスループット、大規模データ処理のスケーラビリティ、インフラストラクチャの懸念なしに大規模なタスクを処理できることが含まれる。

例えば、顧客フィードバックの分析や言語翻訳など、リアルタイムの応答が不要な大量のデータ処理に適している。開発者は複雑なキューイングシステムの管理やレート制限を気にすることなく、大規模なクエリグループを送信し、Anthropicに処理を任せることができる。

価格設定と対応モデル

Message Batches APIは、インフラストラクチャのコスト削減を活かし、入力トークンと出力トークンの両方で50%の割引を提供する。対応モデルとその価格は以下の通りだ：

1. Claude 3.5 Sonnet（最も高度なモデル、200Kコンテキストウィンドウ）
– バッチ入力：1.50ドル/百万トークン
– バッチ出力：7.50ドル/百万トークン

2. Claude 3 Opus（複雑なタスク向けの強力なモデル、200Kコンテキストウィンドウ）
– バッチ入力：7.50ドル/百万トークン
– バッチ出力：37.50ドル/百万トークン

3. Claude 3 Haiku（最速で最もコストパフォーマンスの高いモデル、200Kコンテキストウィンドウ）
– バッチ入力：0.125ドル/百万トークン
– バッチ出力：0.625ドル/百万トークン

この価格設定により、企業は大規模なデータ処理タスクをより経済的に実行できるようになり、以前は実用的でなかったり、コストが高すぎたりした大規模なデータ分析プロジェクトが実現可能になる。

ユーザー事例：Quoraの活用

ユーザーベースの質問回答プラットフォームであるQuoraは、新しいエンドユーザー機能を作成するために、AnthropicのMessage Batches APIを要約とハイライト抽出に活用している。QuoraのプロダクトマネージャーであるAndy Edmonds氏は、「AnthropicのBatches APIは、コスト削減を実現しながら、リアルタイムでの処理が不要な大量のクエリを実行する複雑さも軽減します」と述べている。

24時間以内に結果をダウンロードできる便利さが、エンジニアの時間をより重要な問題の解決に充てることを可能にしている。この事例は、Message Batches APIが大規模なデータ処理を必要とする企業にとって、効率性とコスト面で大きな利点をもたらすことを示している。

AI Market の見解

AnthropicのMessage Batches APIは、大規模AIデータ処理の効率化とコスト削減を同時に実現する画期的なサービスだ。非同期バッチ処理と高度な言語モデルを組み合わせることで、大量のデータを効率的に処理する能力を提供している。これにより、企業は複雑なインフラストラクチャ管理を回避しつつ、AIの恩恵を最大限に活用できる。

また、50%のコスト削減を実現することで、AIの大規模活用に対する経済的障壁を大幅に引き下げている。これは、特に中小企業や新興企業にとって、高度なAI機能へのアクセスを容易にする重要な進展だ。このAPIの登場により、大規模なデータ分析、文書処理、言語翻訳などの分野で新たなAIアプリケーションの開発が加速する可能性が高い。

競合他社も同様のサービスの提供を迫られることで、AIサービス市場全体の価格競争が激化し、結果としてAI技術の普及がさらに促進されると予想される。長期的には、このようなサービスの普及により、企業のAI活用がより一般的になり、ビジネスプロセスの自動化や意思決定支援におけるAIの役割が一層重要になるだろう。

参照元：Anthropic Newsroom

生成AI（ジェネレーティブAI）について詳しく知りたい方はこちら、ChatGPTのプロンプトについて詳しく知りたい方はこちらの記事もご参考ください。

AIに関するご相談はAI Marketへ

AI MarketではAI開発・生成AI開発実績豊富なAI会社の選定・紹介を行っています。貴社に最適な会社に手間なく数日で出会えます。貴社の要望に応えることが可能な企業複数社の紹介が可能で、相見積もり・比較もすぐに実施可能。

プロのAIコンサルタントが貴社の代わりに数社選定しますので、AI会社の選定に迷ったり、相談方法がわからなかったら、累計1,000件以上の相談実績を持つAI Marketへ、いつでもお気軽にご相談ください。