Anthropic、大規模非同期処理を半額で実現。「Message Batches API」で企業のAI活用を加速
最終更新日:2024年10月09日
Anthropicは2024年10月9日(現地時間)、新しい「Message Batches API」をパブリックベータ版として公開した。この新APIは、最大10,000クエリまでのバッチ処理を24時間以内に完了し、標準APIコールの50%のコストで提供する。
Claude 3.5 Sonnet、Claude 3 Opus、Claude 3 Haikuに対応し、Amazon Bedrockユーザーもバッチ推論が利用可能。非リアルタイムの大規模データ処理を効率的かつ低コストで実現する画期的なサービスだ。
目次
<本ニュースの10秒要約>
- Anthropicが新「Message Batches API」を発表、最大10,000クエリのバッチ処理を24時間以内に完了
- 標準APIコールの50%のコストで提供し、大規模非同期処理の効率化とコスト削減を実現
- Claude 3.5 Sonnet、Claude 3 Opus、Claude 3 Haikuに対応し、Amazon Bedrockユーザーも利用可能
Message Batches APIの特徴と利点
Message Batches APIは、大量のクエリを非同期で処理する強力かつコストパフォーマンスの高い方法を提供する。開発者は最大10,000クエリまでのバッチを送信でき、各バッチは24時間以内に処理される。標準APIコールと比較して50%のコスト削減を実現し、時間に敏感でないタスクの処理をより効率的かつ経済的に行うことができる。
このAPIの主な利点には、高いスループット、大規模データ処理のスケーラビリティ、インフラストラクチャの懸念なしに大規模なタスクを処理できることが含まれる。
例えば、顧客フィードバックの分析や言語翻訳など、リアルタイムの応答が不要な大量のデータ処理に適している。開発者は複雑なキューイングシステムの管理やレート制限を気にすることなく、大規模なクエリグループを送信し、Anthropicに処理を任せることができる。
価格設定と対応モデル
Message Batches APIは、インフラストラクチャのコスト削減を活かし、入力トークンと出力トークンの両方で50%の割引を提供する。対応モデルとその価格は以下の通りだ:
1. Claude 3.5 Sonnet(最も高度なモデル、200Kコンテキストウィンドウ)
– バッチ入力:1.50ドル/百万トークン
– バッチ出力:7.50ドル/百万トークン
2. Claude 3 Opus(複雑なタスク向けの強力なモデル、200Kコンテキストウィンドウ)
– バッチ入力:7.50ドル/百万トークン
– バッチ出力:37.50ドル/百万トークン
3. Claude 3 Haiku(最速で最もコストパフォーマンスの高いモデル、200Kコンテキストウィンドウ)
– バッチ入力:0.125ドル/百万トークン
– バッチ出力:0.625ドル/百万トークン
この価格設定により、企業は大規模なデータ処理タスクをより経済的に実行できるようになり、以前は実用的でなかったり、コストが高すぎたりした大規模なデータ分析プロジェクトが実現可能になる。
ユーザー事例:Quoraの活用
ユーザーベースの質問回答プラットフォームであるQuoraは、新しいエンドユーザー機能を作成するために、AnthropicのMessage Batches APIを要約とハイライト抽出に活用している。QuoraのプロダクトマネージャーであるAndy Edmonds氏は、「AnthropicのBatches APIは、コスト削減を実現しながら、リアルタイムでの処理が不要な大量のクエリを実行する複雑さも軽減します」と述べている。
24時間以内に結果をダウンロードできる便利さが、エンジニアの時間をより重要な問題の解決に充てることを可能にしている。この事例は、Message Batches APIが大規模なデータ処理を必要とする企業にとって、効率性とコスト面で大きな利点をもたらすことを示している。
AI Market の見解
AnthropicのMessage Batches APIは、大規模AIデータ処理の効率化とコスト削減を同時に実現する画期的なサービスだ。非同期バッチ処理と高度な言語モデルを組み合わせることで、大量のデータを効率的に処理する能力を提供している。これにより、企業は複雑なインフラストラクチャ管理を回避しつつ、AIの恩恵を最大限に活用できる。
また、50%のコスト削減を実現することで、AIの大規模活用に対する経済的障壁を大幅に引き下げている。これは、特に中小企業や新興企業にとって、高度なAI機能へのアクセスを容易にする重要な進展だ。このAPIの登場により、大規模なデータ分析、文書処理、言語翻訳などの分野で新たなAIアプリケーションの開発が加速する可能性が高い。
競合他社も同様のサービスの提供を迫られることで、AIサービス市場全体の価格競争が激化し、結果としてAI技術の普及がさらに促進されると予想される。長期的には、このようなサービスの普及により、企業のAI活用がより一般的になり、ビジネスプロセスの自動化や意思決定支援におけるAIの役割が一層重要になるだろう。
生成AI(ジェネレーティブAI)について詳しく知りたい方はこちら、ChatGPTのプロンプトについて詳しく知りたい方はこちらの記事もご参考ください。
AIに関するご相談はAI Marketへ
AI Marketでは
メルマガ会員登録(無料)
AI Market ニュース配信チームでは、AI Market がピックアップするAIや生成AIに関する業務提携、新技術発表など、編集部厳選のニュースコンテンツを配信しています。AIに関する最新の情報を収集したい方は、ぜひ𝕏(旧:Twitter)やYoutubeなど、他SNSアカウントもフォローしてください!
𝕏:@AIMarket_jp
Youtube:@aimarket_channel
TikTok:@aimarket_jp
過去のニュース一覧:ニュース一覧
ニュース記事について:ニュース記事制作方針
運営会社:BizTech株式会社
ニュース掲載に関するご意見・ご相談はこちら:ai-market-press@biz-t.jp