AWS re:Invent 2024 に現地参加しています。
現地時間 2024 年 12 月 3 日に行われた Keynote にて、今年もたくさんの発表があったので、そのサービスと概要を簡単にまとめます。
サービスと概要
Compute
■ Amazon EC2 P6 NVIDIA Blackwell GPU Instance
NVIDIA の Blackwell を搭載した、現行世代より 2.5 倍高速な GPU インスタンスです。
■ Amazon EC2 Trn2 Instances (GA)
16 個の AWS Trainium2 チップを搭載し、数千億から数兆のパラメータを持つ生成 AI モデルのトレーニングとデプロイを行うための最も強力なEC2インスタンスです。
現行世代の GPU ベースのインスタンスより 30～40% のコストパフォーマンス向上を実現し、トレーニング時間の短縮や、AI を活用したリアルタイムのエクスペリエンスの提供が可能になります。
- Amazon EC2 Trn2 instances and UltraServers | AWS
- Amazon EC2 Trn2 Instances and Trn2 UltraServers for AI/ML training and inference are now available | AWS Blog
■ Amazon EC2 Trn2 UltraServers (Preview)
4 つの Trn2 Instances を NeuronLink という独自のチップ間インターコネクトで接続し、計算能力、メモリ、ネットワーク帯域幅を4倍に強化したものです。
- Amazon EC2 Trn2 instances and UltraServers | AWS
- Amazon EC2 Trn2 Instances and Trn2 UltraServers for AI/ML training and inference are now available | AWS Blog
■ AWS Trainium3 (Coming Soon)
生成 AI ワークロードに特化した Trainium の最新世代です。
Storage
■ Amazon S3 Tables (GA)
Apache Iceberg をサポートするクラウドオブジェクトストアです。
汎用のS3バケットに格納された自己管理Icebergテーブルと比較して、最大3倍のクエリパフォーマンスと最大10倍のトランザクション/秒を実現します。
- Amazon S3 Tables | AWS
- New Amazon S3 Tables: Storage optimized for analytics workloads | AWS News Blog
■ Amazon S3 Metadata (Preview)
Amazon S3にアップロードされたオブジェクトのメタデータを自動的に取得し、ほぼリアルタイムで更新・検索可能にするサービスです。
- Amazon S3 Metadata (Preview) | AWS
- Announcing Amazon S3 Metadata (Preview) – Easiest and fastest way to manage your metadata | AWS Blog
Database
■ Amazon Aurora DSQL (Preview)
PostgreSQL 互換のサーバーレス分散 SQL データベースで、ほぼ無制限のスケーラビリティと高い可用性を提供します。
データベースのシャーディングやインスタンスのアップグレードなしに、ワークロードに応じて自動的にスケールします。
■ Amazon DynamoDB global tables (Preview)
複数のリージョン間でデータを自動的にレプリケートする、完全マネージドのサーバーレスデータベースです。
これにより、99.999%の可用性を提供し、高速なローカル読み書きを実現します。
- Amazon DynamoDB global tables | AWS
- Amazon DynamoDB global tables previews multi-Region strong consistency | AWS Blog
AI/ML
■ Amazon Bedrock Model Distillation (Preview)
Amazon Bedrock のモデル蒸留の機能で、より小型で高速、コストパフォーマンスの高いモデルを使用しつつ、最先端モデルと同等の精度を実現できます。
蒸留されたモデルは元のモデルと比べて最大 500% 高速化し、コストを最大 75% 削減できますが、RAG のようなユースケースでは精度の低下は 2% 未満に抑えられます。
- Amazon Bedrock Model Distillation | AWS
- Build faster, more cost-efficient, highly accurate models with Amazon Bedrock Model Distillation (preview) | AWS Blog
■ Amazon Bedrock Automated Reasoning checks (Preview)
Amazon Bedrock Guardrails の一部として提供される機能であり、自動推論を用いて LLM の応答の正確性を検証します。
これにより、ハルシネーションの検出や、専門家が作成したポリシーへの準拠を数理的に証明することが可能となります。
- Amazon Bedrock Guardrails | AWS
- Amazon Bedrock Guardrails now supports Automated Reasoning checks (Preview) | AWS Blog
■ Amazon Bedrock multi-agent collaboration (Preview)
複雑な複数ステップのタスクを連携して処理するエージェントのチームを簡単に構築、展開、調整できる機能です。
■ Amazon Nova
Amazon Bedrock で利用可能な基盤モデルで、以下を提供します。
| 名前 | 概要 |
|---|---|
| Amazon Nova Micro (GA) | テキストのみのモデル。非常に低コストで最小のレイテンシー応答を実現。 |
| Amazon Nova Lite (GA) | テキスト、画像、動画を処理可能なマルチモーダルモデル。非常に低コスト。 |
| Amazon Nova Pro (GA) | テキスト、画像、動画を処理可能なマルチモーダルモデル。複雑なワークフロー処理など、幅広いタスクに対応。 |
| Amazon Nova Premier (Coming Soon) | テキスト、画像、動画を処理可能なマルチモーダルモデル。最も高性能。 |
| Amazon Nova Canvas (GA) | テキストや画像から画像を生成。 |
| Amazon Nova Reel (GA) | テキストや画像から動画を生成。 |
| Amazon Nova Speech-to-Speech (Coming Soon) | 自然な人間の会話のようなやりとりを実現。 |
| Amazon Nova Any-to-Any (Coming Soon) | テキスト、画像、音声、動画を入力として受け取り、任意の形式で出力。 |
- Amazon Nova Foundation Models | AWS
- Announcing Amazon Nova foundation models available today in Amazon Bedrock | AWS Blog
■ Amazon Q への機能追加
Amazon Q に、ユニットテストの生成、ドキュメントの生成、コードレビューの機能が追加されました。
- Amazon Q – Generative AI Assistant | AWS
- New Amazon Q Developer agent capabilities include generating documentation, code reviews, and unit tests | AWS Blog
■ GitLab Duo with Amazon Q (Preview)
Amazon Q のエージェント機能を GitLab のエンタープライズ DevSecOps プラットフォームに組み込んだものです。
開発者は GitLab の使い慣れたワークフローを通じて、ソフトウェア開発やセキュリティなどにおける複雑なマルチステップのタスクを自動化できます。
■ Amazon Q Developer への機能追加
Amazon Q Developer に、.NET アプリケーションの変換、 VMWare ワークロードのクラウドネイティブアーキテクチャへの変換、メインフレームアプリケーションの変換、AWS 環境全体の問題の調査の機能が追加されました。
- Amazon Q Developer | AWS
- Announcing Amazon Q Developer transformation capabilities for .NET (preview) | AWS Blog
- Announcing Amazon Q Developer transformation capabilities for .NET, mainframe, and VMware workloads (preview) | AWS Blog
■ Combining QuickSight and Amazon Q Business data
Amazon Q Business が QuickSight と統合可能になりました。
- Integrate unstructured data into Amazon QuickSight using Amazon Q Business | AWS Blog
- Query structured data from Amazon Q Business using Amazon QuickSight integration | AWS Blog
■ ISVs can now integrate with the Amazon Q index (GA)
ISV が Amazon Q index と統合可能になりました。
■ Amazon Q Business can automate complex workflows
Amazon Q Business は、複雑なワークフローを自動化可能になりました。
■ The next generation of Amazon SageMaker
Amazon SageMaker の次世代版が登場しました。
その中で、以下のサービスが発表されました。
| 名前 | 概要 |
|---|---|
| Amazon SageMaker Unified Studio | アナリティクスや AI のためのデータ/ツールを単一の環境で構築。 |
| Amazon SageMaker Lakehouse (GA) | S3、Redshift、サードパーティなどにまたがるデータを統合。 |
まとめ
今年もたくさんの発表がありました。やはり生成 AI 関連が多かった印象です。
Coming Soon となっているものもいくつかありますが、どれも気になるので、どこかで触ってみたいと思います。