- 1. AWSの代替連絡先はあくまで代替連絡先である。
- 2. AWS Certified DevOps Engineer – Professional(DOP-C02) 合格体験記
- 3. データ活用基盤を作ってみたその8(構築・データ収集-Lambda)
- 4. データ活用基盤を作ってみたその11(構築・データ活用-Athena)
- 5. データ活用基盤を作ってみたその12(Terraformのtips)
- 6. データ活用基盤を作ってみたその10(構築・データ加工-Glue)
- 7. データ活用基盤を作ってみたその9(構築・データ蓄積-S3)
- 8. データ利活用基盤を作ってみたその7(構築・IAM)
- 9. データ活用基盤を作ってみたその6(構築・デプロイ構成)
- 10. [AWS]Windows Server2022のEC2にFleetManagerで接続した際にPowershellへの入力ができない際の対応
- 11. AWS RDSとAuroraの違いについてまとめてみた
- 12. AWSのアカウントを作ったらまずやること
- 13. AWS Session Manager接続でLinuxのOSユーザーを変えてみた
- 14. サーバレスwebアプリをLambdaでホストする
- 15. BedrockでVectorDBでRAGする – Amazon Titan Embeddingsでベクトル入門②
- 16. CloudFormationでAWSサーバレスアーキテクチャを構築する その1
- 17. 【AWS】グラコレに学ぶAWS Well-Architectedフレームワーク
- 18. AWSのS3で本番環境でも画像を保存できるようにしよう。【vol3】
- 19. Anthropic Claude のプロンプトガイドをちゃんと読みながらプロンプトの練習してみた
- 20. AWS Application Migration Service (MGN) で移行してみた
AWSの代替連絡先はあくまで代替連絡先である。
# はじめに
AWSを利用している場合、リソースのメンテナンス通知や、サポートケースの受信など、様々なケースでメールを受信することがあります。
これらのメールは基本的にルートユーザーのメールアドレス(以下、アカウントメールアドレス)に対して送信されます。
また、アカウントメールアドレスとは別の **代理のメールアドレス(代替連絡先)** を設定することも可能です。今回、アカウントメールアドレスが受信する内容を、別のメールアドレスで集約できないか調査することがあり、代替連絡先について調べてみました。その内容をここにまとめます。
# 最初にまとめ
「代替の連絡先」の機能は、登録しているメールアドレス宛にすべての AWS からの通知(メンテナンスや請求の通知等)が配信されることを約束するものではありません。
基本的にはユーザーに連絡がつかない場合等の代替の連絡先という位置づけです。 **AWSからのお知らせを確実に受信したい場合はアカウントメールアドレス宛のメールを受信できる状態にするのが適切です。**# 代替連絡先について
代替連絡先は、請求 (Billing) ・操作 (Ope
AWS Certified DevOps Engineer – Professional(DOP-C02) 合格体験記
# はじめに
少し前にDVA、SOAと取得したので、将来的に6冠を目指すということで、そのままの流れでDOPを受験しました。# スコア
**852/1000**無事に合格できました!
初の「Professional」資格でしたが、やはりAsocciateの資格と比較して難しい。。。
合格体験記などで、SAPより簡単と記載する方も多いですが、文章量も問題のレベル感もAsocciateで出題されていた内容より深い内容が問われ、自分の理解力が低いところをピンポイントで問われたりするなど、なんとか合格はしたものの勉強期間、計画を含めて、力不足を痛感した試験でした。# 受験対策
### 書籍
– なし
調べてはみましたが、DOPの対策本的なものは出ていませんでした。### Web問題集
https://kws-cloud-tech.com/10問単位で実施できるので、4~5周くらい実施しました。
空いてる時間などにちょっとずつ消化してました。https://cloud-license.com/
テスト受験前のAWS公式模擬試験で結構悲惨な点数だったので、追い込み用とし
データ活用基盤を作ってみたその8(構築・データ収集-Lambda)
# はじめに
こんにちは。NTTデータ先端技術の@tsuchidahrkです。
本記事は、データ活用基盤を作ってみた連載記事のその8です。
本シリーズの取り組みの内容については[その1(構成シナリオ)](https://qiita.com/kamein/items/81df29ef9d32bf0a0810)をご覧ください。
前の記事は、[その7(構築・IAM)](https://qiita.com/fujitak-intellilink/items/4c4d5b62dac2d7b4d39f)からご覧ください。
本記事では、今回作成したデータ活用基盤データ収集処理の設計、構築方法、データ収集処理の実装について紹介します。# 目次
– データ収集処理設計
– データ収集処理の流れ
– 構築方法
– データ収集処理の実装
– まとめ# データ収集処理の設計
データ活用基盤を構築する際に欠かせないデータ収集処理の設計について紹介します。
本システムでは、その1の機能・非機能要望を満たせるように設計しました。
データ収集処理に関連する機能・非機能要望は以下になります。
||項目|要望|
データ活用基盤を作ってみたその11(構築・データ活用-Athena)
# はじめに
こんにちは。NTTデータ先端技術の亀井(@kamein)です。
本記事はデータ活用基盤を作ってみた連載記事のその11(構築・データ活用-Athena)です。本シリーズの取り組みの内容については[その1(構成シナリオ)](https://qiita.com/kamein/items/81df29ef9d32bf0a0810)をご覧ください。
今回のPJではデータ活用を蓄積領域(S3)のデータ閲覧としており、Athenaで実現します。本記事では、Athenaの設定手順や利用手順についてご紹介します。# 目次
+ 今回のPJにおけるデータ活用の範囲
+ Athenaについて
+ 実装内容
+ ポリシー付与
+ AWS CLIインストール
+ ネットワーク穴あけ
+ 利用手順
+ 振り返り
+ 最後に# 今回のPJにおけるデータ活用の範囲
今回のデータ活用におけるデータ活用はAI,BIのような使い方ではなく、データ連携の用途です。
蓄積領域(S3)に格納されたデータを既存システム側扱いのサーバ(EC2)からCliベースでデータを閲覧を目指しており、
データ活用基盤を作ってみたその12(Terraformのtips)
# はじめに
こんにちは、NTTデータ先端技術の[白木](@shiraki_ils)です。
本記事はデータ活用基盤を作ってみた連載記事の12(TerraformのTips)です。
本シリーズの取り組みの内容については[その1(構成シナリオ)](https://qiita.com/kamein/private/81df29ef9d32bf0a0810)をご覧ください。
前の記事は、[データ活用基盤を作ってみたその11(構築・データ活用-Athena)](https://qiita.com/kamein/items/c5c3d6d2c343df4b5c7d)からご覧ください。
今回は、TerraformでAWSの構築を行った際のtipsなどについて記載させていただきます。# 目次
* 前段
* Tips
* 詰まった点
* 最後に# 前段
本PJでは、AWS上に下記構成でTerraformを用いてインフラの構築を行いました。
メンバーは7名で実施しましたが、ほぼ全員がTerrafom未経験者だったので、手探りで進めた中でのtipsや詰まった点をまとめました。
構成はこのようになって
データ活用基盤を作ってみたその10(構築・データ加工-Glue)
## はじめに
こんにちは、NTTデータ先端技術の[白木](@shiraki_ils)です。
本記事はデータ活用基盤を作ってみた連載記事の10(構築・データ加工-Glue)です。
本シリーズの取り組みの内容については[その1(構成シナリオ)](https://qiita.com/kamein/private/81df29ef9d32bf0a0810)をご覧ください。
前の記事は、[その9(構築・データ蓄積-S3)](https://qiita.com/EumJinman/items/4a80e5f1cc09973b6302)からご覧ください。
今回は、作成したデータ活用基盤の加工処理について記載します。## 目次
* データ加工処理設計
* データ加工処理の流れ
* 構築方法
* データ加工処理の実装
* 詰まったところ
* まとめ## データ加工処理設計
データ活用基盤を構築する際に欠かせないデータ加工処理の設計について紹介します。
本システムでは、その1の機能・非機能要望を満たせるように設計しました。
データ加工処理に関連する機能・非機能要望は以下になります。| |
データ活用基盤を作ってみたその9(構築・データ蓄積-S3)
## はじめに
こんにちは。NTTデータ先端技術の@EumJinmanです。
本記事は、データ活用基盤を作ってみた連載記事のその9(構築・データ蓄積-S3)です。
本シリーズの取り組みの内容については[その1(構成シナリオ)](https://qiita.com/kamein/items/81df29ef9d32bf0a0810)をご覧ください。
前の記事は、[その8(構築・データ収集-Lambda)](https://qiita.com/tsuchidahrk/items/92cee4db92d68010e3c9)からご覧ください。
今回は、データ活用基盤のストレージの設計、構築方法、注意点について記載します。
※S3に対するアクセスポリシーは[その7(構築・IAM)](https://qiita.com/fujitak-intellilink/items/4c4d5b62dac2d7b4d39f)に記載しております。## 目次
・ ストレージ設計
・ 構築方法
・ 注意点
・ 最後に## ストレージ設計
データ活用基盤を構築し、データを活用するために欠かせないストレージの設
データ利活用基盤を作ってみたその7(構築・IAM)
## はじめに
こんにちは。NTTデータ先端技術の@fujitak-intellilinkです。
本記事は、データ活用基盤を作ってみた連載記事のその7です。
本シリーズの取り組みの内容については[データ活用基盤を作ってみたその1(構成シナリオ)](https://qiita.com/kamein/items/81df29ef9d32bf0a0810) をご覧ください。
前の記事は、[データ活用基盤を作ってみたその6(構築・デプロイ方法) ](https://qiita.com/shiraki_ils/items/863465b40c0bf85f9a03) からご覧ください。
本記事では、データ活用基盤におけるIAMの構成・設定について記載します。## 目次
[アクター一覧](#アクター一覧)
[構築内容](#構築内容)
[反省と注意点](#反省と注意点)
[まとめ](#まとめ)## アクター一覧
主に以下の5種類のアクターを想定しています。
本システムは、「データ活用基盤側」と「既存システム側」に分かれています。
今回のメインはあくまで「データ活用基盤側」のリソースである
データ活用基盤を作ってみたその6(構築・デプロイ構成)
# はじめに
こんにちは、NTTデータ先端技術の[白木](@shiraki_ils)です。
本記事はデータ活用基盤を作ってみた連載記事の6(構築・デプロイ構成)です。
本シリーズの取り組みの内容については[その1(構成シナリオ)](https://qiita.com/kamein/private/81df29ef9d32bf0a0810)をご覧ください。
前の記事は、[その5(試験)](https://qiita.com/S-takahashi1129/items/f5fba7eca86cc1d30940)からご覧ください。
本記事では構築編の最初ということで、AWSにデータ活用基盤を構築する際のデプロイ構成について紹介します。# 目次
* 本記事について
* 前提
* 構築時の構成案
* リモートバックエンドの構築
* セキュアなアクセスキーの作成
* ローカル環境の構築
* 困った点
* 最後に# 本記事について
* 本記事で触れていること
* Terraformを用いたAWSへの構築手順
* リモートバックエンドの構築手順
* AWSアクセスキーの
[AWS]Windows Server2022のEC2にFleetManagerで接続した際にPowershellへの入力ができない際の対応
## 問題
Windows_Server-2022-English-Full-Baseを使用して起動したインスタンスでPowershellを起動しても入力が出来ない。(ペーストやEnterは可能。)
2023/11/2現在、最新のWindows_Server-2022-English-Full-Base-2023.10.11でも発生。## 原因
当該AMIで使用されているPSReadline2.0.0が原因。
PSReadLine v2.2.0-beta4 Releaseで解消されているとのこと。
参考:[PSReadline 2.1.0 doesn’t work in the windows virtual desktop web interface · Issue #2725 · PowerShell/PSReadLine · GitHub](https://github.com/PowerShell/PSReadLine/issues/2725)## 対策
PSReadLineのバージョンアップを行うコマンド
入力はできないがペーストはできるので、以下をコピーしてペー
AWS RDSとAuroraの違いについてまとめてみた
# はじめに
業務でオンプレ上のPostgreSQLをAWSに移行することになりました。
マネージドする方向で動いていますが、RDSとAuroraの違いを正確に理解できていなかったため、整理してみました。| | RDS | Aurora |
|:-|:-:|:-:|
| データベースエンジン | MySQL
PostgreSQL
MariaDB
Oracle
Microsoft SQL Server | MySQL
PostgreSQL |
| デプロイオプション | (1)単一AZデプロイメント
(2)マルチAZデプロイメント
(3)リードレプリカデプロイメント
(4)マルチリージョンデプロイメント | (1)単一マスターデプロイメント
(2)マルチマスターデプロイメント
(3)グローバルデータベースデプロイメント |
| レプリケーション | マスタースレーブのレプリケーションを使用してデータの冗長性と耐久性を確保します。マスターデータベースとリードレプリカの間でデータが同期されます | データの冗
AWSのアカウントを作ったらまずやること
[Amazon Web Services](https://aws.amazon.com/)のアカウントを作成したら、真っ先にやることは、以下の記事に書く通りである。
# ルートアカウントのMFAによる保護
ルートアカウントは、あらゆる操作が可能で、乗っ取られた場合にあらゆるリソースの追加・削除を許すことになる。このため、MFAによる保護は必須である。
# IAM経由での請求コンソールへのアクセス有効化
これを事前に行っておかないと、IAM経由での請求コンソールへのアクセスができない。このため、有効化することにより、以後、わざわざルートアカウントでのアクセスが必要なくなるようにする。
# MFAでの保護を行う管理ポリシーの追加
MFAでの管理保護を行う、IAMポリシーを定義する。[このページ](https://docs.aws.amazon.com/ja_jp/IAM/latest/UserGuide/reference_policies_examples_iam_mfa-selfmanage.html)に書いてあるポリシーを定義するとよいとされるが、このポリシー通りに定義
AWS Session Manager接続でLinuxのOSユーザーを変えてみた
# 概要
この記事では以下の内容について説明します。
– EC2 Linux / Mac インスタンスで、ssm-user以外でセッションマネージャーに接続する方法
– Session Managerの「Run As」機能について## 「Run As」とは?
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2524408/4c6f9cc1-45a5-152a-dbfe-e56573859a76.png)
Session Managerを使用してLinux/MacOSサーバーに接続する場合、
デフォルトでは`ssm-user`アカウントを自動生成し、接続されます。(`ssm-user`アカウントは、サーバー内に`SSM-Agent`をインストールする際に
自動で生成され、以下の様に`/etc/sudoers.d/`に追加されます)“`shell
[root@ip-172-31-34-95 sudoers.d]# ll
total 8
-r–r—–. 1 roo
サーバレスwebアプリをLambdaでホストする
# はじめに
今更ながらGPTを使っている。GPTを使うとLambda(Node.js)をつかって、簡単にフロントエンド部分が書ける。フロントよくわからないので非常に良い。今回はLambda、APIGateway、DynamoDBを使ってCloudFormationでテンプレート化してみる。## 今回やること
– CloudFormationでテンプレート化する(SAMは使わない)
– 画像はS3からロードさせる
– WebページDynamoDBの表示、DBへの入力欄を持つ作ったもの
https://github.com/bd8z/serverless-frontend.git
### テンプレート化の対象
– テンプレート化の対象。閉域用途のためVPCエンドポイント経由で。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/54100/d536c415-718d-fad2-bb1c-154574a4df58.png)– Lambdaに乗せるindex.mjs
(画像付き
BedrockでVectorDBでRAGする – Amazon Titan Embeddingsでベクトル入門②
前回でEmbeddingとベクトル化のイメージが掴めたので、VectorDBを使ってKendraを使わないRAGを試します。
VectorDBとしてはChromaDBとやらを使います。特に拘りは無いのですがお試しなので簡単そうなもの使います。# 概念図
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3573242/fca77041-c984-7c93-62ef-fd91cc7d776b.png)# 構成図
お試しなのでVectorDB(ChromaDB)はローカル端末にあります。
正確にはPDFをChromaDBに直入れしているわけではないですが。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3573242/4cc49f3a-0f43-e9b0-30e8-fe47b1aa5111.png)実際に使う時にはAWS上に構築するのが自然だと思います。
(ベクターなのかベクトルなのか
CloudFormationでAWSサーバレスアーキテクチャを構築する その1
# はじめに
本記事はAWSで提供されているサーバレスサービスをAWS CloudFormationと呼ばれるIaCサービスを使用して構築するハンズオンです。
[AWSサーバレスアーキテクチャで文章解析サービスを構築する](https://qiita.com/kenryo/items/a47eaf8195e30f6a8182)で作成した文章解析サービスをCloudFormationで構築できるように、CloudFormationの概要やテンプレートの基本的な使い方についてハンズオンを通して学習します。
全3記事の構成となっており、本記事は第1回となります。– CloudFormationでAWSサーバレスアーキテクチャを構築する その1
– 近日公開 CloudFormationでAWSサーバレスアーキテクチャを構築する その2
– 近日公開 CloudFormationでAWSサーバレスアーキテクチャを構築する その3:::note warn
注意①
本資料内スクショのAWS管理コンソールのデザインは資料作成当時のものです。
デザインは今後変更される可能性があり、スクショと
【AWS】グラコレに学ぶAWS Well-Architectedフレームワーク
>AWS Well-Architectedフレームワーク グラコレ
>https://aws.amazon.com/jp/builders-flash/202101/awsgeek-well-architected/?awsf.filter-name=*allAWS Well-Architectedフレームワークは主に5つの柱から成り立つと、グラコレ(全体図)から読み取れます。
■AWS Well-Architectedフレームワーク グラコレ(全体図)
https://d1.awsstatic.com/Developer%20Marketing/jp/magazine/2020/img_awsgeek-well-architected_07.2b53046d7bb5b056f9a2117f59cc763b6b39b08a.png5つの柱それぞれにホワイトペーパが用意されていて、詳細を丁寧に確認できますが
個別のホワイトペーパーを読む前に、まずは全体概要のホワイトペーパーを確認するとよいそうです。次は全体概要に目を通そうと思います。
■ AWS Well-Archit
AWSのS3で本番環境でも画像を保存できるようにしよう。【vol3】
### 【概要】
—
AWSのS3についてのアウトプット(備忘)、また、これからはじめて触れるよ!って方の参考になればと思います〜。
設定に若干苦戦したのと、他の記事で情報の過不足の部分があったので初めての方でもわかりやすく設定できればと思います!!
(画面は2023年11月時点のものとなります。)### 【対象】
—
・S3でクラウド環境に画像を保存したい。
・renderでdeployをしたい。(Herokuなどでも可ですが、環境ヘ変数の設定が少し異なります。)
・.envファイルで管理したい。(credentialファイルでも設定可ですが、今回は.envで管理します。)### 【環境】
—
・Rails7系
・Ruby3.2.2
・CarrierWave導入済。(carrierwaveについては省略します。)
・Docker ver3
・render### 【前提条件】
—
・[・AWSのS3で本番環境でも画像を保存できるようにしよう。【vol1】 ](https://qiita.com/iijima-naoya-45b/items/0bdf75bd
Anthropic Claude のプロンプトガイドをちゃんと読みながらプロンプトの練習してみた
## はじめに
ChatGPT が登場してから、様々な大規模言語モデル(LLM)が出てきています。プロンプトエンジニアリング、という言葉も割と浸透してきたなという印象があります。このプロンプト、というのが意外と厄介で、使用する LLM に応じてお作法が違いますし、LLM が期待する書き方をしないと LLM のポテンシャルを引き出すことができなかったりします。
本記事では、AWS の生成系 AI サービスである Amazon Bedrock から使える Anthropic 社の Claude のプロンプトデザインドキュメントをちゃんと読んでみようと思います。
英語のドキュメントなので英語のプロンプトに関する内容となりますが、きっと日本語でも有用な内容であると信じて、この記事ではプロンプトを日本語にして Claude に回答させています。
## プロンプトデザインの章
[こちら](https://docs.anthropic.com/claude/docs/introduction-to-prompt-design) のドキュメントを見ていきます。![スクリーンショット 20
AWS Application Migration Service (MGN) で移行してみた
## トラブル一覧
– 1台のみ、通常数時間のデータ転送は2ヶ月以上かかるため、MGNの移行を諦めた。エージェントの問題だと、お手上げです。
– 古い Windows (2008 R2以前) だと、第5世代のインスタンス(c5, m5など)は、起動できない
– Windows 2008 以前、ENA (Elastic Network Adapter) サポートしないため、インスタンス作成後に ENA 無効化処理が必要
– 古い Windows のパッチ (Windows Update) 更新しないと、インスタンス作成後に長時間ログインできない(数十分~数時間)
– リハーサル成功しても、3日後の本番移行で、全てのカットオーバーインスタンス起動できない (**c5→c4, r5→r4 で解決**)
– AWSのドキュメントは、全て信じじゃダメです。Windows Cluster は移行できないが、移行後の動作は保証しない!!! **共有ストレージのクラスターは一発アウト**## 反省点
– 「Staging移行 → Prod 移行」の通常移行ではなく、最初から本番含めて MGN Ag