logo

生成AIキャッチアップ – 2026-03-14の１週間

March 14, 2026
bancom

今週は・・・

プロンプトインジェクションなど、悪意への対策と、
AIの業務活用の話題が多いです。

もはや「AI は役に立つのか？」ではなく、
役に立つのは前提で、
どう使うか、
どう使えば安全なのかの話題が主流ですね。

Google

今年の国際女性デーに「可能性の芸術」を称えて

日付: 2026/03/09
カテゴリ: Google Research, Creating opportunity
ソース: Honoring the art of the possible this International Women’s Day

マレーシアの全公立大学でGemini for Educationを提供開始

日付: 2026/03/09
カテゴリ: Learning & Education, Google in Asia
ソース: Enabling Gemini for Education across all Malaysian public universities

AIが英国における乳がん検出をどう改善できるか

英国では8人に1人の女性が乳がんに罹患する。NHSでは2人の専門家が全マンモグラフィを確認する「ダブルリーディング」制度を採用しているが、放射線科医の世界的不足により、各専門家は週4時間で年間約5,000件の画像を審査しなければならない状況にある。

AIの精度検証

GoogleはImperial College LondonおよびNHSと共同で、12万5,000人分のマンモグラフィをAIで解析。その結果、従来の検診で見逃されていた「インターバルがん（検診の合間に発見されるがん）」の25%を検出することに成功。専門家の放射線科医と比較して、より多くの浸潤がんを発見し、初回検診の女性における偽陽性も少なかった。

人間とAIの協働における課題

AIが検出したがんを、仲裁パネルの専門家が覆してしまうケースも観察された。AIが発見した微細な早期がんへの信頼を高めるため、人間とAIの相互作用に関するさらなる研究が必要とされている。また、ロンドンの12のNHSスクリーニング施設での実証研究から、AIは「すぐに使える」ソリューションではなく、各病院の環境や変化するワークフローへの継続的な調整が不可欠であることも明らかになった。

日付: 2026/03/10
カテゴリ: UK, Health
ソース: How AI can improve breast cancer detection in the UK

Gemini in Google Sheetsが最先端の性能を達成

日付: 2026/03/10
カテゴリ: Google Workspace, Gemini, AI
ソース: Gemini in Google Sheets just achieved state-of-the-art performance.

Docs、Sheets、Slides、DriveのGeminiで、より速く作成する新しい方法

bancom

Gemini によるスライド生成＆修正が、ついに来たー！と、言いたいところですが、
`Google AI UltraおよびPro` プランが対象のようです。

GoogleはGeminiをDocs、Sheets、Slides、Driveに統合し、ファイル・メール・ウェブから関連情報を引き出してコンテンツ作成を大幅に効率化する新機能をベータ提供開始した。Google AI UltraおよびProサブスクライバー向けに順次展開される。

Docs：空白から完成稿へ

  • 即座に初稿を生成：サイドパネルやボトムバーにプロンプトを入力するだけで、関連ファイルを参照した文書を自動作成
  • 文章の洗練：特定のセクションや文書全体のトーン・スタイルを指定して改善
  • スタイルの統一：「Match writing style」で文書全体の文体を統一、「Match doc format」で参照テンプレートのフォーマットに自動整形（例：旅行の予約メールからイティネラリーを自動生成）

Sheets：自動で構築されるスプレッドシート

  • 簡単にスプレッドシートを作成：プロンプト一つで、メールや既存ファイルの情報を元にチェックリスト・連絡先リスト・トラッカーなどを自動生成
  • Fill with Gemini：テーブルの空欄をGeminiが自動補完。ウェブ検索や既存データを活用してカテゴリ分類・要約・新規データ入力が可能（例：大学出願トラッカーの締切日や学費を自動入力）

Slides：コンセプトからプレゼン完成まで

  • スライドの自動生成：テーマに合わせたレイアウトで、ファイル・メール・ウェブの情報を引用した新スライドを作成
  • 共同編集：「色を他のスライドに合わせて」「よりシンプルに」などの指示で柔軟に編集
  • デッキ全体の生成（近日公開）：プロンプト一つでプレゼン全体を自動作成する機能を開発中

Drive：すべてのファイルを横断した即時回答

  • AI Overview：Drive内の検索結果の上部に、関連ファイルの要約と引用元を表示
  • Ask Gemini in Drive：ドキュメント・メール・カレンダー・ウェブを横断した複雑な質問に対応（例：税務関連ファイルを選択して「確定申告前に税理士に聞くべきことは？」と質問）
  • 提供状況
  • 本日よりベータ版として順次展開
  • 対象：Google AI UltraおよびProサブスクライバー
  • 言語・地域：Docs・Sheets・Slidesは英語でグローバル提供、Driveは米国のみ（今後多言語対応予定）

日付: 2026/03/10
カテゴリ: Google Workspace, Google One, Gemini
ソース: New ways to create faster with Gemini in Docs, Sheets, Slides and Drive

Gemini Embedding 2：初のネイティブマルチモーダル埋め込みモデル

bancom

「何でも入れてください、ちゃんとベクトル化しますから！」という、安心感がある。

「RAG のパイプラインがシンプルになる！」と、X 界隈でも評判が高いです。

Googleは2026年3月11日、Geminiアーキテクチャをベースとした初の完全マルチモーダル埋め込みモデル「Gemini Embedding 2」をGemini APIおよびVertex AI経由でパブリックプレビューとして公開した。

対応モダリティと柔軟な出力次元

テキスト・画像・動画・音声・ドキュメントを単一の統合埋め込み空間にマッピングし、100以上の言語にわたるセマンティックな意図を捉える。各モダリティの仕様は以下の通り。

  • テキスト： 最大8,192トークン
  • 画像： 1リクエストあたり最大6枚（PNG・JPEG対応）
  • 動画： 最大120秒（MP4・MOV対応）
  • 音声： テキスト変換なしでネイティブに処理
  • ドキュメント： 最大6ページのPDFを直接埋め込み

複数モダリティを1リクエストで混在入力することも可能。また、Matryoshka Representation Learning（MRL）を採用し、デフォルト3072次元から1536・768次元へのスケールダウンが可能で、パフォーマンスとストレージコストのバランスを調整できる。

日付: 2026/03/11
カテゴリ: Developer tools
ソース: Gemini Embedding 2: Our first natively multimodal embedding model

ChromeのAI体験をインド、ニュージーランド、カナダに拡大

日付: 2026/03/11
カテゴリ: Gemini, Chrome
ソース: Expanding Chrome’s AI experiences to India, New Zealand and Canada

GoogleがWizの買収を完了

bancom

wiz は、企業のクラウドセキュリティプラットフォームを提供している企業・サービスで、
主に AWS / Azure / GCP などのクラウド環境を対象に、セキュリティリスクの検出・可視化・対応を行っているようです。

買収の概要

Googleは2026年3月11日、クラウド・AIセキュリティプラットフォームを提供するWizの買収を完了した。本買収は2025年3月に発表されており、WizはGoogle Cloudに加わりながらも独自ブランドを維持し、あらゆるクラウド環境での顧客保護を継続する。

買収の目的と背景

AI時代において、多くの企業や政府機関が重要なデータやシステムをクラウドへ移行している。一方、攻撃者もAIを活用してより高度なサイバー攻撃を行うようになっており、セキュリティ強化が急務となっている。

Wizの強みと統合効果

Wizはクラウド環境とコードに深い専門知識を持ち、主要クラウドすべてに対応したセキュリティプラットフォームを提供している。Google CloudのAI技術・インフラとWizの知見を組み合わせることで、脅威の検知・防止・対応を一元化した統合セキュリティプラットフォームが実現する。

日付: 2026/03/11
カテゴリ: Google Cloud
ソース: Google completes acquisition of Wiz

Ads Decodedエピソード4：より良いキャンペーン成果のための入札と予算設定の活用法を探る

日付: 2026/03/11
カテゴリ: Google Ads
ソース: Ads Decoded episode 4 explores how to fuel your bidding and budgeting for better campaign performance.

若者にとってより安全な生成AIへのロードマップ

生成AIは学習・創造・つながりに新たな可能性をもたらしている。Googleは若者を守るため、以下の3つの柱を軸に取り組んでいる。

  • 若者のオンライン安全の保護
  • 家族とテクノロジーの関係の尊重
  • 若者が安全にオンラインを学び探索できる環境の整備

日付: 2026/03/12
カテゴリ: Families, Google in Europe
ソース: A roadmap for safer generative AI for young people

Google Playで有料ゲームを試して、購入して、極める新しい方法

日付: 2026/03/12
カテゴリ: Google Play
ソース: New ways to try, buy and master paid games with Google Play

「デジタル時代に育つ」サミットからの6つのポイント

2026年3月12日、ダブリンのGoogle安全工学センター（GSEC）が主催した「デジタル時代に育つ」サミットが開催された。子どもや10代の安全専門家、教育者、政策立案者が集まり、若者のオンライン環境を保護・尊重・支援するための具体的な解決策が議論された。

  1. ベースライン保護の継続的な再定義
  2. カスタマイズ可能な保護者向けコントロールの強化
  3. 10代のデジタルウェルビーイングを支援する新たなグローバル取り組み
  4. 高品質で年齢に適したコンテンツ基準の再定義
  5. より賢く安全な年齢確認の開発
  6. 一律規制ではなく、状況に応じたきめ細かな対応

日付: 2026/03/12
カテゴリ: Safety & Security, Google in Europe
ソース: 6 takeaways from our “Growing Up in the Digital Age” Summit

Platform 37とThe AI Exchange：AIイノベーションと発見のための新しいスペース

Googleはロンドンのキングス・クロス駅に隣接する新ビル「Platform 37」を発表した。名称は2016年にDeepMindのAI「AlphaGo」が囲碁世界チャンピオンの李世乭（イ・セドル）との対局で放った歴史的な一手「Move 37」に由来する。当初は人間の専門家から「ミス」と見なされたこの一手は、最終的にAlphaGoの勝利を導き、現代AI時代の幕開けを告げるものとなった。今夏よりGoogle DeepMindおよびGoogleのチームが入居を開始する予定。

日付: 2026/03/12
カテゴリ: UK, Google DeepMind
ソース: Platform 37 and The AI Exchange: new spaces for AI innovation and discovery

GeminiでMapsを再構築する方法

Google Mapsが2つの新AI機能「Ask Maps」と「Immersive Navigation」を発表。Geminiモデルとの統合により、地図の使い方を根本から変える大型アップデートとなっている。

  1. Ask Maps：会話形式で場所を探す
  2. Immersive Navigation：10年以上ぶりの大型ナビ刷新

主な新機能：

  • ルートの先読み表示：スマートズームや透過建物表示で複雑な分岐や車線変更を事前に把握。音声案内も「友人が隣でナビしてくれるような」自然な表現に改善
  • 代替ルートのトレードオフ表示：渋滞・所要時間・有料道路などの条件を比較して提示。毎秒500万件の交通情報更新と、ドライバーコミュニティによる日1,000万件以上の投稿を活用
  • 目的地周辺の案内強化：出発前にStreetViewで目的地を確認でき、到着時には建物の入口・駐車場・歩道の位置をガイド

アメリカで本日より順次提供開始。iOS・Android・CarPlay・Android Auto・Google built-in搭載車にも対応予定。

日付: 2026/03/12
カテゴリ: Maps
ソース: How we’re reimagining Maps with Gemini

Groundsource：AIを活用してコミュニティの自然災害予測を支援

背景と課題

Googleは長年、自然災害の早期警告システムを提供してきたが、都市型鉄砲水（フラッシュフラッド）に関する高精度データが存在せず、AIモデルの学習に必要なデータが不足していた。

Groundsourceとは

GoogleリサーチがGeminiを活用して開発した新しいAI手法。数十年分の公開記録を分析し、150カ国以上にわたる260万件以上の過去の洪水イベントを特定。さらにGoogle Mapsを用いて各イベントの正確な地理的境界を特定し、高品質なデータセットを構築した。

主な成果

このデータセットをもとに新モデルを訓練し、都市部における鉄砲水を最大24時間前に予測することが可能になった。予測結果はGoogleの「Flood Hub」で公開されており、既存の河川洪水予報（150カ国以上・20億人をカバー）と合わせて提供される。

今後の展望

都市型鉄砲水モデルとデータセットは「Google Earth AI」ファミリーに加わった。同手法は土砂崩れや熱波など他の自然災害にも応用可能であり、世界中の公開情報を活用して防災力の向上に貢献することが期待されている。

日付: 2026/03/12
カテゴリ: Google Research, Sustainability
ソース: Groundsource: using AI to help communities better predict natural disasters

AIがオーストラリア農村部の心臓の健康改善にどう役立っているか

オーストラリアは世界有数の医療水準を誇るが、居住地域によって健康格差が存在する。地方・遠隔地に住む人々は、都市部と比べて心臓病による死亡リスクが60%高いとされている。

パートナーシップの概要

Googleはこの課題に対応するため、Wesfarmers Health（SISU Health）、ビクター・チャン心臓研究所、Latrobe Health Servicesと連携し、アジア太平洋地域初となる取り組みを開始した。Google Australia のデジタル未来イニシアティブ（DFI）から100万オーストラリアドルの投資を受け、「Population Health AI（PHAI）」を活用する。

AIによる健康リスクの可視化

PHAIはGoogle Earth AIの「人口動態基盤モデル（PDFM）」やGoogle Mapsの大気質・花粉・施設データなどを組み合わせ、地域レベルの隠れた健康リスクを分析する。個人情報を保護しながら、地域ごとの特性に合わせた医療介入を可能にする。

具体的な取り組み

SISU Healthは遠隔地で5万件以上の新規健康スクリーニングを実施予定。PHAIを用いて匿名化・同意済みデータのトレンドを分析し、地域の健康課題に応じた介入策を提案する。

目指す未来

居住地域に関わらず、すべてのオーストラリア人が個別化されたケアを受けられる社会の実現を目標としている。

日付: 2026/03/13
カテゴリ: Health, AI
ソース: How AI is helping improve heart health in rural Australia

Google Earth AIの地球規模インテリジェンスが世界の公衆衛生をどう支えているか

Google Earth AIは、地理空間データと予測モデリングを組み合わせることで、公衆衛生の分野に革新をもたらしている。気象・大気質・洪水などの環境要因を分析するPopulation Dynamics Foundation Model（PDFM）とMobility AIを活用し、感染症の予測や慢性疾患ニーズの把握を可能にしている。

公衆衛生介入の精度向上

マラウイでは、Cooper/SmithがPDFMとAlphaEarth衛星データを組み合わせ、地域クリニックの医療サービス利用状況を予測。マウント・サイナイとボストン小児病院／ハーバード大学の研究者は、PDFMを活用して麻疹ワクチン接種率をZIPコードレベルまで可視化し、接種率の低い地域クラスターを特定した。

気象・地理が影響する感染症の予測

夏の雨はデング熱の急増を、洪水はコレラの拡大を引き起こす。WHO アフリカ地域事務局との共同研究では、GoogleのTimesFMとPDFM・気象データを組み合わせることで、コレラ予測精度を標準モデル比35%以上改善した。またオックスフォード大学の研究者は、PDFMを用いてブラジルにおけるデング熱の6ヶ月先予測精度を大幅に向上させた。

慢性疾患ニーズの把握

オーストラリアでは、Victor Chang心臓研究所・Wesfarmers Health・Latrobe Health Servicesと連携し、Population Health AI（PHAI）を展開。大気質・花粉・施設情報などのデータとPDFMを組み合わせ、地方部における慢性疾患ニーズの把握と予防支援を目指している。

日付: 2026/03/14
カテゴリ: Health
ソース: How Google Earth AI’s planetary intelligence is supporting global public health

Google Workspace

タイトル: 代理ユーザーが行った会議の更新が、委任元の名前で送信されるようになりました
日付: 2026/03/09
カテゴリ:
ソース: Updates to meetings made by a delegate user are now sent in the name of the principal

タイトル: Google Meetハードウェア向けの新しいデバイスID
日付: 2026/03/09
カテゴリ:
ソース: New Device ID for Google Meet hardware

タイトル: Google MeetハードウェアにGoogleカレンダーを一括で割り当て
日付: 2026/03/10
カテゴリ:
ソース: Assign Google Calendars to Google Meet hardware in bulk

タイトル: 大型モニターでのGoogleカレンダーの画面スケーリングを改善
日付: 2026/03/11
カテゴリ:
ソース: Better screen scaling for Google Calendar on large monitors

タイトル: 組織の継続的な会議チャットを管理する
日付: 2026/03/12
カテゴリ:
ソース: Control continuous meeting chat for your organization

タイトル: Gmailの「スケジュールを手伝って」機能で複数のゲストとの会議時間を簡単に設定
日付: 2026/03/13
カテゴリ:
ソース: Use Help me schedule in Gmail to easily set up a meeting time with multiple guests

タイトル: Whiskは2026年4月30日にFlowへ移行します
日付: 2026/03/13
カテゴリ:
ソース: Whisk is moving to Flow on April 30, 2026

タイトル: Gemini in Chromeがカナダ、ニュージーランド、インドを含むさらに多くの国と言語に拡大
日付: 2026/03/14
カテゴリ:
ソース: Gemini in Chrome expands to more countries and languages, including Canada, New Zealand, and India

タイトル: Google Workspace Updates 週間まとめ – 2026年3月13日
日付: 2026/03/14
カテゴリ:
ソース: Google Workspace Updates Weekly Recap – March 13, 2026

OpenAI

OpenAIがPromptfooを買収へ

OpenAIは、AIセキュリティプラットフォーム「Promptfoo」を買収し、その技術をエンタープライズ向けプラットフォーム「OpenAI Frontier」に統合すると発表した。

Promptfoo とは、lan Webster氏とMichael D’Angelo氏が共同創業したAIセキュリティプラットフォームで、Fortune 500企業の25%以上に利用されている。LLMアプリケーションの評価やレッドチーミング向けのオープンソースCLIおよびライブラリも提供している。

Frontier に統合される主な機能

  • セキュリティ・安全性テスト： プロンプトインジェクション、ジェイルブレイク、データ漏えいなどのリスクを自動検出・修正
  • 開発ワークフローへの統合： エージェントのリスクを早期に特定・調査・是正する仕組みを開発プロセスに組み込み
  • 監督と説明責任： テスト内容の記録・変更追跡により、AIガバナンスやコンプライアンス要件に対応

買収の背景と意義

企業がAIエージェントを実際のワークフローに導入するにつれ、評価・セキュリティ・コンプライアンスの重要性が増している。本買収により、OpenAIは企業が安全で信頼性の高いAIを導入するためのツール整備をさらに加速させる方針だ。

日付: 2026/03/09
カテゴリ: Company
ソース: OpenAI to acquire Promptfoo

ChatGPTで数学と科学を学ぶ新しい方法

bancom

インタラクティブでグラフィカルな学習は、すっと頭に入ってきます。

ChatGPT に新しいインタラクティブなビジュアル解説機能が追加された。毎週1億4,000万人が数学・科学の学習に ChatGPT を活用しており、米国成人の半数以上が数学に苦手意識を持つという背景のもと、より直感的に概念を理解できる仕組みが導入された。

新機能の内容

70以上の数学・科学の基本概念を対象に、数式や変数、概念同士の関係がリアルタイムで変化する様子をインタラクティブに確認できる。ユーザーは変数を自分で動かしながら、グラフや結果への影響を即座に把握できるため、抽象的な数式を「体験しながら理解する」ことが可能になった。すべてのプランで世界中のユーザーが利用できる。

学習効果と利用者の声

研究によると、視覚的でインタラクティブな学習は従来の指導より概念理解を深める可能性がある。初期テストでは以下の声が寄せられた。

  • 高校生・大学生： 変数同士の関係が理解しやすくなった
  • 保護者： 子どもと一緒に問題を考える際の説明がしやすくなった
  • 教育者： 数式の暗記ではなく、概念の成り立ちを理解するのに役立つ

日付: 2026/03/10
カテゴリ: Product
ソース: New ways to learn math and science in ChatGPT

最先端LLMにおけるインストラクション階層の改善

bancom

AI が指示の階層構造を正確に把握できれば、
「悪意あるプロンプトであっさり騙される」ということはなくなるはずです。

文章の中から指示を見出し、
誰からの指示なのかを把握し、
他の指示との競合を把握したうえで判断する、、、というのは、
実はすごく難しいのでしょう。

AI システムは多くの場合、複数のソースから指示を受け取ります。これらには、システムメッセージに含まれる安全ポリシー、開発者によるプロダクトガイダンス、ユーザーからのリクエスト、オンラインで得られる情報などが含まれます。こうしたソースの中で、最も信頼できる指示を確実に優先できるようモデルを学習させることは、安全に運用するうえで重要です。

この優先順位付けが崩れると、AI の安全性や信頼性に関するさまざまな問題が生じる可能性があります。モデルは、許可されていないコンテンツのリクエスト、個人情報を引き出そうとする試み、あるいはオンラインデータに埋め込まれたプロンプトインジェクション攻撃を受け取る可能性があります。こうした状況でモデルが適切に振る舞えない原因は共通しています。それは、モデルが誤った指示に従ってしまう可能性があることです。

これらの指示が競合する場合、モデルはどの指示を優先するかを判断する必要があります。信頼できない指示を権威あるものとして扱ってしまうと、モデルはポリシーや開発者・ユーザーの意図に反する挙動を示す可能性があります。私たちは、適切に設計された指示階層タスクが、現実世界における複数の安全性特性を改善することを示します。これらのタスクは、信頼レベルに応じて指示を優先するようモデルを学習させます。これらのタスクで学習したモデルは、システムプロンプトの安全仕様に対する応答性が高まり（安全性ステアラビリティ（制御可能性）が向上）、ツール出力に埋め込まれたプロンプトインジェクション攻撃にもよりロバストになります。

こうした競合に対処するため、OpenAI のモデルは明確な指示階層に従うよう学習されています。

システム > 開発者 > ユーザー > ツール

日付: 2026/03/10
カテゴリ: Research
ソース: Improving instruction hierarchy in frontier LLMs

WayfairがOpenAIでカタログ精度とサポート速度を向上

日付: 2026/03/11
カテゴリ: B2B Story
ソース: Wayfair boosts catalog accuracy and support speed with OpenAI

モデルからエージェントへ：Responses APIにコンピュータ環境を搭載

シェルツール

  • モデルはシェルコマンドを「提案」するだけで、実際の実行はプラットフォーム側が担う
  • grep・curl・awk などのUnixツールが標準で利用可能
  • 既存のコードインタープリタ（Python専用）と異なり、Go・Java・Node.jsなど幅広い言語・環境に対応

エージェントループのオーケストレーション

  • Responses APIがモデルとシェルツールの間を仲介し、コマンド実行→結果フィードバック→次のステップというループを自動管理
  • 複数のシェルコマンドを並列実行し、出力を多重化してモデルに返すことで処理を高速化
  • 出力が大きくなりすぎる場合は上限を設定し、先頭と末尾を保持しつつ中間を省略する仕組みを採用

コンテキストウィンドウの圧縮（コンパクション）

  • 長時間タスクではコンテキストウィンドウが枯渇する問題が発生する
  • モデル自体が重要な状態を暗号化・トークン効率の高い形式に圧縮する「コンパクション」機能を内蔵
  • サーバーサイドで自動実行するか、/compact エンドポイントを手動で呼び出す2通りの方式に対応
  • Codex自身がこの仕組みの構築と初期ユーザーを兼ねており、自己改善のサイクルが実現

コンテナのコンテキスト（ファイル・DB・ネットワーク）

  • ファイルシステム：入力データをコンテナにステージングし、モデルが必要なファイルだけを選択的に操作できる
  • データベース：SQLiteなどの構造化DBにデータを格納し、必要な行だけをクエリすることでコスト・速度を最適化
  • ネットワーク：サイドカー型のエグレスプロキシを通じてアウトバウンド通信を制御し、許可リストによるアクセス管理と認証情報の安全な注入を実現

エージェントスキル

  • 繰り返し発生する多段階パターンを「スキル」として再利用可能なモジュールにパッケージ化
  • スキルは SKILL.md（メタデータ・手順）と関連リソースをまとめたフォルダ構成
  • Responses APIがプロンプト送信前にスキルを自動ロードし、モデルのコンテキストに組み込む

日付: 2026/03/11
カテゴリ: Engineering
ソース: From model to agent: Equipping the Responses API with a computer environment

プロンプトインジェクションに耐性のあるAIエージェントの設計

bancom

AIエージェントを「悪意ある第三者と常に接触するカスタマーサポート担当者」と同様に捉えるアプローチを採用。完全に攻撃を検知・遮断することを目指すのではなく、攻撃が成功した場合でも被害を最小限に抑える設計を重視している。これは人間のカスタマーサポートにおける返金上限設定や不審メール検知と同じ発想

ゼロトラスト的な視点で情報と接するのはいいですね。

AIエージェントがウェブ閲覧・情報取得・ユーザー代理行動などの能力を持つようになった一方で、攻撃者がシステムを操作する新たな手口も生まれている。その代表が「プロンプトインジェクション」であり、外部コンテンツに悪意ある指示を埋め込み、モデルに意図しない行動を取らせる攻撃手法だ。

プロンプトインジェクションの進化

初期の攻撃はWikipediaの記事に直接指示を書き込むような単純なものだったが、モデルの高度化に伴い、攻撃も進化した。現在ではソーシャルエンジニアリングの手法を取り入れた巧妙な攻撃が主流となっており、2025年に報告された実例では、業務メールを装ってエージェントに従業員の個人情報を外部に送信させようとする手口が確認されている（成功率50%）。

防御の考え方：ソーシャルエンジニアリングモデル

OpenAIは、AIエージェントを「悪意ある第三者と常に接触するカスタマーサポート担当者」と同様に捉えるアプローチを採用。完全に攻撃を検知・遮断することを目指すのではなく、攻撃が成功した場合でも被害を最小限に抑える設計を重視している。これは人間のカスタマーサポートにおける返金上限設定や不審メール検知と同じ発想だ。

ChatGPTにおける具体的な防御策

ソーシャルエンジニアリングモデルに加え、ソース・シンク分析（情報の入口と出口の管理）を組み合わせた対策を実施。主な施策として：

  • Safe URL：会話内で得た情報が第三者に送信されようとする際、ユーザーに確認を求めるか、送信をブロックする仕組み
  • Atlas・Deep Research：ナビゲーションや検索においても同様の保護を適用
  • ChatGPT Canvas・Apps：サンドボックス環境で予期しない通信を検知し、ユーザーの同意を求める

今後の展望

完全自律型エージェントには、外部の敵対的環境との安全なやり取りが不可欠。OpenAIは「人間のエージェントに与えるべき制限を、AIエージェントにも同様に実装する」ことを推奨しており、ソーシャルエンジニアリング対策の研究をアプリケーションセキュリティとモデルトレーニングの両面で継続している。

日付: 2026/03/11
カテゴリ: Security
ソース: Designing AI agents to resist prompt injection

楽天がCodexで問題修正速度を2倍に

日付: 2026/03/11
カテゴリ: API
ソース: Rakuten fixes issues twice as fast with Codex

Anthropic

シドニーがAnthropic のアジア太平洋地域4番目のオフィスに

日付: Mar 10, 2026
カテゴリ: Announcements
ソース: Sydney will become Anthropic’s fourth office in Asia-Pacific

Anthropic Instituteの設立を発表

日付: Mar 11, 2026
カテゴリ: Announcements
ソース: Introducing The Anthropic Institute

AnthropicがClaude Partner Networkに1億ドルを投資

日付: Mar 12, 2026
カテゴリ: Announcements
ソース: Anthropic invests $100 million into the Claude Partner Network

Figma

Vishal Kapoorが語るAIで誠実なプロダクトを作るための10のルール

AffirmのSVP of ProductであるVishal Kapoorが、AIを活用しながらも透明性と誠実さを保つプロダクト開発のための10のルールを紹介する。

  1. ファーストプリンシプル思考を大切にする
  2. 人間の深い感情に根ざす
  3. AIをチームメンバーとして扱う
  4. エッジケースに集中する
  5. カウンター指標を重視する
  6. 素早く実験し、早く失敗する
  7. 創造性を競争優位にする
  8. 機能の壁を取り払い、全員をビルダーにする
  9. 安全に楽しく試せる環境を作る
  10. 「AIスロップ」に注意する

日付: 2026/03/11
カテゴリ:
ソース: Vishal Kapoor’s 10 rules for building honest products with AI

AI時代に磨くべき5つのデザインスキル

Figmaが実施した「State of the Designer 2026」レポートをもとに、AI時代にデザイナーが重視すべきスキルをまとめた記事。AIはプロダクト開発を加速し、デザインプロセスへの参加者の幅を広げている。

  1. AIツールキットの構築とプロンプト力の向上
  2. マルチプレイヤー型プロダクト開発への参加
  3. システム思考の実践
  4. 価値あるAI機能の設計
  5. ビジュアルの磨き・センス・意図によるクラフトの維持

日付: 2026/03/11
カテゴリ:
ソース: 5 design skills to sharpen in the AI era

bancom

株式会社バンコム 代表 山口清秀