logo

生成AIキャッチアップ – 2025-11-08の１週間

November 09, 2025
bancom

今週は・・・

Gemini の構造化出力の強化と、File Search Tool in Gemini API が目を引きますね。
File Search Tool in Gemini API に関しては、簡易調査レポートを書きました。

OpenAI の プロンプトインジェクションの記事 は必読ですね。
「フィッシングメールのように』という表現は、いいですね。

Google

10月に発表された最新のAIニュース

Googleは2025年10月に、AI研究の成果を日常生活に役立つツールとして展開する取り組みを加速させました。

これらの取り組みは、AIを活用して人々の生活をより良く、安全で、生産的にすることを目的としています。

主なハイライトは以下の通りです。

仕事の生産性向上

  • Gemini 2.5 Computer Use: ウェブサイトのナビゲーションやフォーム入力など、UIと直接対話できる開発者向けモデルをリリース
  • AI Studio: 「バイブコーディング」機能を導入し、AIアプリ開発の障壁を大幅に低減
  • Gemini Enterprise: 企業向けのGoogle AIプラットフォームを発表。HCA HealthcareやBest Buyなどが早期導入

セキュリティ強化

  • サイバーセキュリティ月間に合わせて、Google Messagesの新しい保護機能、コードセキュリティ用AIエージェント「CodeMender」、拡張されたAI脆弱性報奨金プログラムを発表

新しいインタラクション方法

  • Gemini for Home: スマートホームデバイスとの対話方法を刷新し、より会話的で文脈を理解するAIを導入
  • Android XR: Samsung Galaxy XRヘッドセットを発表。統合されたGemini AIにより、デジタルと物理世界を融合した没入型体験を提供

教育とスキル開発

  • Google Skills: 約3,000のコースとラボを含む新しい学習プラットフォームを開始。AIやその他の技術分野の専門知識を構築可能

日付: 2025-11-05
カテゴリ: Android, Google DeepMind, Developers, Google Labs, Learning & Education, Gemini, Google Cloud, AI, Gemini Features, Research, Safety & Security, Google Nest
ソース: The latest AI news we announced in October

Gemini APIにおける構造化出力の改善

GoogleがGemini APIの構造化出力機能を強化し、JSON Schemaのサポート拡大とプロパティ順序の保持機能を発表しました。

bancom

これは素晴らしい！

AI ワークフローを組んでいると、json 出力は頻出するわけです。
精度が向上するのは、かなり嬉しい！

n8n, Dify などのワークフローサービスも、一日も早く対応してほしいものです。期待大。

JSON Schemaサポートの拡大

すべてのアクティブなGeminiモデルでJSON Schemaのサポートを追加しました。これにより、Pydantic（Python）やZod（JavaScript/TypeScript）などのライブラリがGemini APIですぐに使用可能になります。新たにサポートされた主な機能：

  • anyOf: 条件付き構造（Union型）
  • $ref: 再帰的スキーマ
  • minimum/maximum: 数値制約
  • additionalPropertiesとtype: ‘null’
  • prefixItems: タプル型配列

暗黙的なプロパティ順序

Gemini 2.5以降のモデルでは、スキーマ内のキーの順序が出力でも保持されるようになりました。この機能はOpenAI互換APIでも利用可能です。

実際の活用事例

Agentic Users（自律型Webエージェントプラットフォーム）では、データ抽出においてAPIコールを最大6倍削減し、壊れたJSON応答を完全に排除することに成功しました。

Alkimi AI（企業・教育機関向けAIアシスタント開発）では、複数段階のLLMパイプライン内で確実にデータを受け渡すことができ、信頼性、速度、コスト効率が向上しました。

これらの更新は本日からAPIで利用可能です。

Google Finance、AI機能を追加：リサーチ、決算情報など

GoogleがAI搭載の新しいGoogle Financeに大幅なアップグレードを実施し、Deep Search機能、予測市場データ、企業決算追跡機能を追加しました。また、米国以外で初めてインドでもサービスを展開します。

Deep Searchによる詳細な金融リサーチ

複雑な質問に対して、Deep Search機能を使用することで、より徹底的なAI応答を得られるようになりました。質問を入力してDeep Searchオプションを選択すると、高度なGeminiモデルが数百の同時検索を実行し、数分で完全に引用された包括的な回答を生成します。回答生成中にリサーチプランが表示され、どのように作成されたかを理解できます。フォローアップ質問も可能です。

Deep Searchは今後数週間でロールアウトされ、Google AI ProおよびAI Ultraサブスクライバーには高い利用制限が適用されます。

予測市場データの活用

KalshiとPolymarketからの予測市場データのサポートを追加し、将来の市場イベントについて質問できるようになりました。「2025年のGDP成長率は?」などと検索ボックスに直接質問すると、市場の現在の確率とその推移を確認できます。

予測市場データは今後数週間でロールアウトされ、まずLabsユーザーから利用可能になります。

決算シーズンの情報を逃さない

先週、企業の決算発表前、発表中、発表後に迅速なインサイトを得られる新しい決算体験を開始しました。

「今後の決算」カレンダーやウォッチリストから銘柄を選択すると、新しい決算タブで次回の決算発表スケジュールを確認できます。発表中はリアルタイムの文字起こし付きライブ音声ストリームを視聴でき、発表後も参照可能です。

「一目でわかる」セクションでは、AI搭載のインサイトがニュースレポートやアナリストの反応を要約して提供されます。最新の財務データと過去データの比較、予想との比較、関連決算や過去のレポート、主要文書へのアクセスも可能です。

インドでの展開

今週から、インドで新しいGoogle Financeのロールアウトを開始し、英語とヒンディー語をサポートします。最新機能(Deep Search、予測市場、決算)はまず米国で展開され、今後より多くのユーザーに拡大予定です。

日付: 2025/11/07
カテゴリ: Search, AI
ソース: Google Finance adds AI features for research, earnings and more

AIと学習：学生と教育者のための新しい章

Googleは、AI技術を活用して学習成果の向上を支援するアプローチを示した論文「AI and the Future of Learning」を公開しました。AIは教育における次の大きな変革の始まりであり、学習をより効果的で効率的、魅力的なものにすることを目指しています。

bancom

AI で宿題を解いたり、AI に論文を書かせるのではなく、
AI に使って、効果的に学習を進めましょうという視点。

オリジナル教材、カスタマイズされた先生を簡単に作成される時代ということです。

この流れはどんどん強化されることでしょう。

教育における課題とAIの可能性

  • 世界の初等教育就学率は90%に達したものの、質の高い教育リソースへのアクセスや教師不足（2030年までに4,400万人の教師が必要）という課題が存在
  • AIは単なる答えを提供するのではなく、深い理解を促進し、好奇心を刺激することで、これらの課題解決を支援

学習者向けツール

  • Gemini: 答えを直接示すのではなく、学習者が自ら答えを見つけられるよう導く「ガイド付き学習」機能
  • YouTube・Search: より対話的な学習体験を提供
  • NotebookLM: 自分の資料を使ってクイズやフラッシュカード、音声・動画コンテンツを作成し、効果的な学習をサポート
  • Google Classroom: 教師の授業計画や管理業務を支援するAIツール

責任あるAI活用へのコミットメント

Googleは以下の課題に重点的に取り組んでいます：

  • 学術的誠実性: AIリテラシーの育成と、AIでは簡単に再現できない評価方法（クラス内討論、ポートフォリオプロジェクト、口頭試験など）への移行
  • 公平なアクセス: 世界中で公平にAIの恩恵を受けられるよう配慮
  • 正確性と安全性: 批判的思考力を損なわないAIツールの開発

協働的アプローチ

教育者、保護者、政策立案者、学生の視点を取り入れ、教育の技術と学習科学を組み合わせることで、すべての人が潜在能力を最大限に発揮できるよう支援することを目指しています。

日付: 2025/11/07
カテゴリ: Learning & Education, AI
ソース: AI and learning: A new chapter for students and educators

Gemini APIにおけるファイル検索ツールの紹介

Googleは、Gemini APIに直接組み込まれた完全管理型のRAG（Retrieval Augmented Generation）システムであるファイル検索ツールを発表しました。このツールは、検索パイプラインを抽象化し、開発者がアプリケーション構築に集中できるようにします。

bancom

こ、これは！

Google によるナレッジベース生成サービスが、、、きたー！！！のかな？

ファイルの保存先はどこ？「ファイル検索ストア」ってなに？GCP？Google AI Studio？Vertex AI？

調査すべき事項が盛りだくさんです。

シンプルで手頃な価格設定

  • ストレージとクエリ時の埋め込み生成が無料
  • ファイルのインデックス作成時のみ課金（100万トークンあたり0.15ドル）
  • 従来のRAGシステムと比較して大幅にコスト効率が向上

統合された開発者体験

  • ファイルストレージ、最適なチャンキング戦略、埋め込み、プロンプトへのコンテキスト注入を自動管理
  • 既存のgenerateContent APIで動作し、導入が容易

強力なベクトル検索

  • 最新のGemini埋め込みモデルを使用
  • クエリの意味とコンテキストを理解し、完全一致しなくても関連情報を検索可能

組み込みの引用機能

  • モデルの応答に自動的に引用が含まれ、どのドキュメントが使用されたか明示
  • 検証作業が簡素化

幅広いファイル形式のサポート

  • PDF、DOCX、TXT、JSON、一般的なプログラミング言語ファイルなど多様な形式に対応

実際の活用事例

Beamの事例

AI駆動型ゲーム生成プラットフォーム「Beam」では、以下の成果を達成：

  • 3,000以上のファイルを含む6つのコーパスに対して毎日数千回の検索を実行
  • 並列クエリを2秒以内で処理（従来は手動で数時間かかっていた作業）
  • プロトタイプ作成が数日から数分に短縮

利用開始方法

日付: 2025/11/07
カテゴリ: Developers, AI
ソース: Introducing the File Search Tool in Gemini API

Googleがオクラホマ州の労働力と人材パイプラインに投資

AIはオクラホマ州民に学び、成長し、成功するための新たな機会を創出しています。Googleは、オクラホマ州がこの変革に対応するだけでなく、それをリードする立場に立てるよう支援することを約束しています。

Googleは、オクラホマ州の学生と地域の労働力がAIと実務に必要なスキルを習得できるよう、500万ドルの支援を発表しました。

日付: 2025/11/08
カテゴリ: Student Programs, Company announcements, Google.org, AI, Public Policy, Small Business, Grow with Google
ソース: Google is investing in Oklahoma’s workforce and talent pipeline.

OpenAI

AWSとOpenAIが複数年にわたる戦略的パートナーシップを発表

AWSとOpenAIは、380億ドル規模の複数年にわたる戦略的パートナーシップを発表しました。

OpenAI CEOのサム・アルトマン氏は「フロンティアAIのスケーリングには大規模で信頼性の高いコンピューティングが必要」とコメントし、AWS CEOのマット・ガーマン氏は「AWSのベストインクラスのインフラストラクチャがOpenAIのAI野心のバックボーンとなる」と述べています。

bancom

Nvidia の AWS vs TPU の Google という構図があります。

Anthropic は Google TPU への依存度を高めている最中です。

インフラストラクチャの提供

  • OpenAIは即座にAWSの世界クラスのインフラストラクチャにアクセス可能
  • 数十万台のNVIDIA GPUを搭載したAmazon EC2 UltraServersを利用
  • 数千万台のCPUまでスケール可能

投資規模と期間

  • 380億ドルの投資コミットメント
  • 今後7年間で継続的に成長
  • 2026年末までに全容量の展開を目標、2027年以降も拡張可能

技術的特徴

  • GB200およびGB300のNVIDIA GPUをAmazon EC2 UltraServers上でクラスタリング
  • 低レイテンシーのパフォーマンスを実現
  • ChatGPTの推論処理から次世代モデルのトレーニングまで対応

既存の協力関係

  • OpenAIのオープンウェイトファウンデーションモデルがAmazon Bedrockで利用可能
  • Bystreet、Comscore、Peloton、Thomson Reutersなど数千社の顧客が利用

日付: 2025-11-03
カテゴリ: Company
ソース: AWS and OpenAI announce multi-year strategic partnership

IndQAの紹介

OpenAIは、インドの文化と言語におけるAIシステムの能力を評価するための新しいベンチマーク「IndQA」を発表しました。

背景と目的

  • 世界人口の約80%が英語を第一言語としていないにもかかわらず、既存の多言語ベンチマークは不十分
  • 既存のベンチマーク(MMMUなど)は飽和状態で、翻訳や多肢選択問題に偏重
  • 文化的文脈、歴史、地域の人々にとって重要なことを適切に評価できていない

IndQAの特徴

  • 12言語で2,278問を収録(ベンガル語、ヒンディー語、英語、ヒングリッシュ、カンナダ語、マラーティー語、オディア語、テルグ語、グジャラート語、マラヤーラム語、パンジャーブ語、タミル語)
  • 10の文化領域をカバー(建築・デザイン、芸術・文化、日常生活、食文化、歴史、法律・倫理、文学・言語学、メディア・エンターテインメント、宗教・精神性、スポーツ・レクリエーション)
  • 261人のインド人専門家が問題作成とレビューに参加

評価方法

  • ルーブリック(採点基準)ベースのアプローチ
  • 各質問に対して専門家が詳細な評価基準を作成
  • GPT-4o、OpenAI o3、GPT-4.5、GPT-5などの最強モデルでも正答できない難問を厳選

結果

  • OpenAIのモデルはインド言語において大幅に改善しているが、まだ改善の余地が大きい
  • GPT-5 Thinking Highが他のフロンティアモデルと比較して最高性能を示す

日付: 2025-11-04
カテゴリ:Research, Release
ソース: Introducing IndQA

ブラジルのAIの時代が到来

ブラジルにおけるAI活用が急速に進展しています。教室から農場、中小企業まで、ブラジル全土の人々がAIを使って学習、創造、包括的なイノベーションを推進しています。

ブラジルは現在、AI採用の決定的な転換点にあり、この勢いを全ブラジル人にとって持続的な利益に変えることが課題となっています。

ブラジルのAI利用状況

  • 世界で最もAIに積極的な国の一つ
  • ChatGPTの週間利用率で世界トップ3
  • 毎日約1億4,000万件のメッセージがやり取りされている
  • OpenAI APIを使用する開発者数で世界トップ2

ビジネスへの影響

  • Microsoftの調査によると、ブラジルの中小企業の75%がAIの影響について楽観的
  • 意思決定者の77%がAIが業務プロセスを効率化すると考えている

活用分野

  • 教育:学習支援
  • 中小企業:業務効率化
  • 農業・畜産業:複雑な問題解決

OpenAIのコミットメント

  • 官民セクターとの協力を通じた支援
  • 安全性と透明性を重視した開発
  • イノベーションの自由を保ちながら、ブラジルの起業家精神と創造性を支援

日付: 2025-11-04
カテゴリ:Global Affairs
ソース: Brazil’s AI moment is here

100万社のビジネス顧客:史上最速で成長するビジネスプラットフォーム

OpenAIは、世界中で100万社以上のビジネス顧客が同社のサービスを直接利用していることを発表しました。これは史上最速で成長するビジネスプラットフォームとなっています。

Amgen、Commonwealth Bank、Booking.com、Cisco、Lowe’s、Morgan Stanley、T-Mobile、Target、Thermo Fisher Scientificなどの大手企業が既に導入しており、毎週新たな企業が参加しています。

急速な成長

  • 毎週8億人以上がChatGPTを利用
  • ChatGPT for Workの総座席数は700万席以上(2ヶ月で40%増加)
  • ChatGPT Enterpriseの座席数は前年比9倍に成長

新機能とツール

  • Company Knowledge: Slack、SharePoint、Google Drive、GitHubなどのツールと連携し、情報検索や分析が可能
  • Codex: コード生成・リファクタリングツールで、8月以降利用が10倍に増加。Ciscoではコードレビュー時間を50%削減
  • AgentKit: エンタープライズエージェントの構築を数ヶ月から数日に短縮。Carlyleでは開発時間を50%以上削減し、精度を30%向上
  • マルチモーダル機能: 画像生成API、Sora 2、音声エージェント機能など

ビジネス成果

  • Whartonの調査によると、企業の75%がプラスのROIを報告
  • 5%未満のみがマイナスのリターンを報告

今後の展開

  • Canva、Figma、Zillow、SpotifyなどがChatGPTにアプリを統合
  • Shopify、Etsy、Walmart、PayPal、SalesforceがAgentic Commerce Protocol(ACP)を通じて新しいショッピング体験を構築

日付: 2025/11/05
カテゴリ:
ソース: 1 million business customers putting AI to work

ChimeがAIを通じてマーケティングを再定義する方法

Chime（フィンテック企業）のCMO、Vineet Mehraへのインタビュー記事。AIがマーケティングの黄金時代をもたらし、組織構造を根本的に変革している様子を解説しています。

1. マーケティングのエージェント化時代

  • AIは単なるツールではなく、マーケティングの運営モデル全体を再定義
  • 従来のキャンペーン中心の構造から、AIエージェントがリアルタイムで適応・最適化する動的モデルへ移行
  • CMOは資本配分を最適化し、効率的な成長を実現する最高の立場に

2. AI導入の3つの原則

  • トップ主導: CMOがAI戦略を主導し、ビジネス変革として推進
  • 小さく始めて素早く拡大: コピー改善などの簡単なタスクから始め、段階的に拡大
  • 入力の質が成果を決める: データとパラメータの質がAIの出力品質を左右。Chime独自のGPTを構築し、ブランドボイスを維持

3. Chimeでの具体的なAI活用

  • クリエイティブ制作の高速化: AI支援による動画生成、コンテンツ開発で外部代理店への依存を削減
  • リアルタイム最適化: PMAXやOfferFitなどのツールで、メディア支出やメッセージングを動的に調整
  • 顧客インサイトの迅速化: AI駆動の感情分析で、週次で顧客フィードバックを製品・マーケティング戦略に反映

4. 成功の鍵

  • 最も重要なスキルは「好奇心」
  • AIは人を置き換えるのではなく、活用できる人が優位に立つ
  • 適応力、迅速な実験、失敗からの学習が重要

日付: 2025/11/06
カテゴリ:
ソース: How Chime is redefining marketing through AI

CREDがAIを活用してプレミアムな顧客体験を提供する方法

CREDは、インドを拠点とする会員制クラブで、信用力のある個人にクレジットカードの支払いに対する特典とプレミアム体験を提供しています。2018年以来、月間1,500万人以上の会員を抱えるまでに成長しました。

成長に伴う課題

CREDは、インドの富裕層向けに信頼性、透明性、セキュリティ、優れたデザインを重視したサービスを提供してきました。しかし、規模が拡大するにつれ、品質を維持しながら迅速に動くことが困難になりました。同社は「すべての機能で各メンバーを10倍効率化するにはどうすればよいか」という問いに対し、AIを活用することで解決策を見出しました。

AI活用の具体例

CREDはOpenAIの技術を活用して3つのツールを開発しました:

  1. Cleo(顧客向け): 3種類の問い合わせ(情報提供、文脈理解、取引処理)に対応し、98%の解決精度を達成
  2. Thea(サポートエージェント向け): テキスト、音声、ヒングリッシュなど複数形式の会話を要約し、次のステップを提案
  3. Stark(オペレーションチーム向け): SOPの作成・更新を数日から数分に短縮

成果

  • CSAT(顧客満足度)スコアが14ポイント向上
  • 複数意図の会話解決率が18%向上
  • 平均処理時間の短縮
  • セッション離脱率が31%減少

今後の展望

CREDは、Cleoを全事業ラインに拡大し、ユーザーの質問に答えられない「データの行き止まり」を検出してナレッジベースを改善するツールを構築中です。最終目標は、エンジニアリング、QA、インフラ、コンプライアンスなど、すべての機能のチームメンバーを10倍効率化することです。

同社にとって、OpenAIの技術は「複利効果」と「迅速かつ正確」という2つの価値観を実現する重要な鍵となっています。

日付: 2025/11/06
カテゴリ: API
ソース: How CRED is tapping AI to deliver premium customer experiences

AIの進歩と提言

OpenAIは、AIが新しい知識と能力を解き放つ中で、その力を広範で持続的な利益に導く責任について論じています。チューリングテストを超えた現在、AIシステムは最も困難な知的競争において最も賢い人間を上回る性能を発揮していますが、多くの人々はまだAIをチャットボットや検索機能としてしか認識していません。

bancom

OpenAI に限らず、超知能に対しては、多くの企業が作成に挑戦していると同時に、その危険性に関しては各所から意見が上がっています。

そんな中、OpenAI 配下の提言を行いました。

提言事項

フロンティア研究所間の協力
  • 安全原則の共有
  • 安全研究の共有
  • 新しいリスクに関する知見の共有
  • 競争動態を減らすメカニズム
  • AI制御評価に関する基準への合意
公的監督と説明責任

「通常の技術」としてのAI

  • 従来の公共政策ツールで対応可能
  • イノベーション促進、プライバシー保護、悪用防止に重点
  • 現在の能力レベルのAIには最小限の追加規制負担

超知能の場合

  • より革新的なアプローチが必要
  • 各国の行政機関や安全機関との緊密な協力
  • バイオテロリズムへのAI応用の軽減
  • 自己改善型AIの影響への対応
AIレジリエンス・エコシステムの構築

インターネット出現時のサイバーセキュリティ分野の発展と同様に、AI向けの包括的なエコシステムが必要：

  • ソフトウェア
  • 暗号化プロトコル
  • 標準規格
  • 監視システム
  • 緊急対応チーム
継続的な報告と測定
  • フロンティア研究所と政府によるAIの影響の測定
  • 特に雇用への影響など、予測が困難な分野での実践的な測定
個人のエンパワーメント
  • 成人が社会が定める広範な範囲内で、自分の条件でAIを使用できるようにする
  • 高度なAIへのアクセスを、電気、清潔な水、食料と同等の基本的なユーティリティとして位置づける
  • ツールを広く利用可能にし、人々が目標を達成できるよう支援することを最優先事項とする

日付: 2025/11/06
カテゴリ:
ソース: AI progress and recommendations

ティーンセーフティブループリントの紹介

OpenAIはティーンセーフティブループリントを発表しました。これは、AIツールを責任を持って構築するためのロードマップであり、ティーンのAI利用に関する基準を設定する政策立案者にとっての実用的な出発点となります。

日付: 2025/11/06
カテゴリ: Company
ソース: Introducing the Teen Safety Blueprint

パイロットから実践へ：BBVAが組織全体でAIをスケールさせる方法

1857年創業のBBVAは、ヨーロッパ、メキシコ、南米、トルコ、米国で数千万人の顧客にサービスを提供する世界的な金融機関です。同行は、AIをパイロットプロジェクトとしてではなく、組織全体の新しい働き方とコア能力として、グローバル規模で展開しています。

主な成果

  • 従業員1人あたり週約3時間の時間削減
  • 週次アクティブ利用率83%
  • ワークフローテストで最大80%以上の効率改善
  • 20,000以上のカスタムGPTを作成（うち約4,000が頻繁に使用）

日付: 2025/11/06
カテゴリ: ChatGPT
ソース: From Pilot to Practice: How BBVA Is Scaling AI Across the Organization

NotionのエージェントAI再構築：GPT-5が自律的ワークフローを実現した方法

Notionは2022年後半にGPT-4へのアクセスを得てから数週間で、ライティングアシスタントやワークスペース全体のQ&A機能を展開しました。しかし、モデルの進化とともに、既存のシステムアーキテクチャの限界が明らかになりました。単発のタスクをこなすプロンプトパターンでは、プラットフォームの可能性を十分に引き出せなかったのです。

Notionは既存のスタックにパッチを当てるのではなく、完全に再構築しました。タスク固有のプロンプトチェーンを、モジュール式サブエージェントを調整する中央推論モデルに置き換えました。これらのエージェントは、Notion、Slack、ウェブ全体を検索し、データベースの追加や編集を行い、必要なツールを使って応答を統合できます。

Notion 3.0のローンチにより、AIはワークフローに組み込まれるだけでなく、実際にワークフローを実行できるようになりました。

主な結果：

  • 実際のユーザーフィードバックに沿った出力で7.6%の改善
  • 難しいリサーチモードの質問で15%のパフォーマンス向上
  • 締め切り更新や競合調査などの複数ステップの構造化タスクで100%以上の改善
  • 矛盾する情報や古い情報に対してベンチマークを完全に満たした唯一のモデル

日付: 2025/11/07
カテゴリ: API
ソース: Notion’s rebuild for agentic AI: How GPT?5 helped unlock autonomous workflows

プロンプトインジェクション攻撃の理解：最先端のセキュリティ課題

OpenAIは、AIシステムが直面する新たなセキュリティ脅威である「プロンプトインジェクション」について解説しています。AIツールがウェブ閲覧やタスク実行など、より高度な機能を持つようになるにつれ、悪意ある第三者がAIを騙して意図しない行動を取らせる攻撃のリスクが高まっています。

bancom

OpenAI 自らが、プロンプトインジェクションについて言及しました。

攻撃は、ある。
悪いことをする人は、いる。

だから、対策をうつ。対策方法を周知する。それしかありません。

プロンプトインジェクションとは

プロンプトインジェクションは、会話型AI特有のソーシャルエンジニアリング攻撃です。フィッシングメールがユーザーを騙すように、プロンプトインジェクションはAIを騙して、ユーザーが意図しない行動を取らせようとします。

攻撃の例：

  • バケーションリサーチ中に、ウェブページのコメントやレビューに隠された悪意ある指示により、AIが誤った宿泊施設を推奨したり、クレジットカード情報を盗もうとする
  • メール対応を依頼したAIエージェントが、攻撃者からのメールに騙されて銀行明細を共有してしまう

OpenAIのユーザー保護アプローチ

OpenAIは多層的な防御戦略を採用しています：

1. 安全性トレーニング

  • Instruction Hierarchy研究により、信頼できる指示と信頼できない指示を区別
  • 自動レッドチーミングを活用した新しい攻撃パターンの開発と対策

2. モニタリング

  • AI駆動の自動監視システムでプロンプトインジェクション攻撃を特定・ブロック
  • 迅速な更新により新しい攻撃に対応

3. セキュリティ保護機能

  • 信頼できないサイトへのアクセス前に承認を要求
  • サンドボックス技術により有害な変更を防止
  • ログアウトモード、Watch Mode、購入前の確認など組み込みコントロール

4. レッドチーミング

  • 内部・外部チームによる広範なテストで防御を改善
  • プロンプトインジェクションに特化した数千時間の検証

5. バグバウンティプログラム

  • セキュリティ研究者に金銭的報酬を提供し、新しい攻撃手法の発見を奨励

6. ユーザー教育

  • 機能使用時のリスクを説明し、情報に基づいた意思決定を支援

ユーザーができる安全対策

  1. 必要最小限のアクセス権限：エージェントには必要なデータやクレデンシャルのみへのアクセスを許可
  2. 重要なアクションの確認：購入やメール送信前の確認要求時に、内容を慎重にチェック
  3. 機密サイトでの監視：銀行などの機密サイトでエージェントが作業する際は、その動作を監視
  4. 具体的な指示：「メールを確認して必要な対応を取って」のような広範な指示は避け、具体的なタスクを指定
  5. 最新情報の確認：OpenAIや信頼できる情報源からのアップデートをフォロー

日付: 2025/11/07
カテゴリ: Security
ソース: Understanding prompt injections: a frontier security challenge

Anthropic

アイスランドとAnthropicが世界初の国家規模AI教育パイロットプログラムを発表

AnthropicとアイスランドのEducation and Children省が提携し、全国の教師にClaudeを提供する世界初の包括的な国家規模AI教育パイロットプログラムを開始しました。

プログラムの概要

  • アイスランド全土の数百人の教師がClaudeにアクセス可能に
  • レイキャビクから最も遠隔地の村まで、すべての地域の教師が対象
  • 教育リソース、トレーニング資料、専用サポートネットワークを提供

期待される効果

  • 授業準備の時間を大幅に削減
  • 個別化された学習教材の作成
  • 多様な学習者に適応した教材の調整
  • アイスランド語を含む複数言語のサポート
  • 事務作業の負担軽減により、教師が本来の教育活動に集中できる

グローバルな展開

  • 欧州議会では210万件以上の公式文書へのアクセスを改善し、検索時間を80%削減
  • 英国政府とは公共サービス変革に関する覚書を締結
  • ロンドン・スクール・オブ・エコノミクスでは全学生にClaude for Educationを提供

アイスランド教育・児童大臣のコメント

「AIは急速に発展しており、その力を活用しながら害を防ぐことが重要です。教育分野にも影響を与えるでしょう。教師のニーズを指針として、この野心的なプロジェクトに着手します」

日付: Nov 04, 2025
カテゴリ: Announcements
ソース: Anthropic and Iceland announce one of the world’s first national AI education pilots

英国とヨーロッパにおけるAnthropic経済未来プログラムの開始

AnthropicがAIの経済的影響に関する研究支援プログラムを英国とヨーロッパに拡大しました。

プログラムの目的

  • AIの労働市場や経済への影響を研究者、政策立案者、実務家が検討できるよう支援
  • 欧州におけるAI導入の急速な進展に対応した政策形成を促進

Anthropic経済指標からの知見

  • 英国: Claudeの最も一般的な用途は学術研究、執筆、教育コンテンツのサポート
  • ドイツ: 製造業での活用が顕著で、機器の較正、トラブルシューティング、修理に使用
  • フランス: 文化・観光分野での利用が世界平均の4倍、飲食・ショッピング・ナイトライフ情報に活用

プログラムの3つの柱

  1. 研究助成金: 欧州の研究者にAI効果研究のための助成金とAPIクレジットを提供
  2. エビデンスに基づく政策: LSEシンポジウムなど、研究者・政策立案者・実務家が政策提案を開発・評価するフォーラム
  3. 経済測定とデータ: Anthropic経済指標を拡大し、欧州産業・地域別のAI導入状況を追跡する詳細データを定期的に公開

LSEシンポジウム

  • ロンドン・スクール・オブ・エコノミクスで100名以上の専門家が参加
  • 政府、学術界、市民社会からの参加者がAIの経済的影響について議論
  • 研究者が政策提案を発表

日付: Nov 05, 2025
カテゴリ: Economic Research
ソース: Launching the Anthropic Economic Futures Programme in the UK and Europe

Cognizant、35万人の従業員にClaudeを提供し、エンタープライズAI導入と内部変革を加速

大手ITコンサルティング企業のCognizantは、AnthropicのClaudeを最大35万人の従業員にグローバル展開することを発表しました。これにより、企業顧客と社内チームがAIの実験段階から実用段階へ移行することを支援します。

解決する企業課題

ソフトウェアエンジニアリングの生産性
  • Cognizant Flowsource™プラットフォームとClaudeを組み合わせ、開発ツールへのMCPベースのアクセスを提供
レガシーシステムの近代化
  • Cognizantの近代化フレームワークとAnthropicのコード理解・変換機能を組み合わせ、大規模コードベースの分析とリファクタリングを加速
エージェント化
  • Cognizant Neuro® AI Multi-Agent OrchestrationとAnthropicのAgent SDKを使用
  • 明示的なポリシー、承認、人間参加型制御を備えた再利用可能なドメイン固有エージェントを設計
業界別ソリューション
  • 金融サービスから開始し、Cognizant Agent FoundryとClaudeを活用
  • 規制された企業環境にエージェントワークフローを組み込み
責任あるAI
  • 企業ガバニーズのニーズとMCPなどのオープン標準に沿った、安全な展開、監視、運用の実践を推進

日付: Nov 04, 2025
カテゴリ: Announcements
ソース: Cognizant will make Claude available to 350,000 employees, accelerating enterprise AI adoption and internal transformation

パリとミュンヘンに新オフィス開設、Anthropicの欧州展開を拡大

Anthropicは、欧州での事業拡大の一環として、パリとミュンヘンに新オフィスを開設することを発表しました。これらの新拠点は、東京、ソウル、ベンガルールでの最近のオフィス開設に続くもので、ロンドン、ダブリン、チューリッヒの既存オフィスと並んで欧州での存在感を強化します。

日付: Nov 07, 2025
カテゴリ: Announcements
ソース: New offices in Paris and Munich expand Anthropic’s European presence

Figma

ServiceNowとFigmaが戦略的提携を発表：デザインビジョンをエンタープライズ変革へ

ServiceNowとFigmaは、デザインビジョンをエンタープライズ変革に変える戦略的提携を発表しました。新しいMCP（Model Context Protocol）を活用した統合により、Figmaのデザインを数分で安全でスケーラブルなエンタープライズアプリケーションに自動変換できるようになります。

bancom

ServiceNowの統合開発環境（IDE）でFigmaデザインのリンクをServiceNow Build Agentへの直接プロンプトとして使用可能 ということらしいです。

日付: 2025/11/06
カテゴリ:
ソース: ServiceNow and Figma launch strategic collaboration to turn design vision into enterprise transformation

Issue No.13: すべてのシステムが稼働中 | Figma Blog

Figmaの編集ニュースレター第13号では、デザインシステムとAIの融合がもたらす新しい可能性について特集しています。物事が急速に進化する時代において、強固な基盤としてのデザインシステムの重要性が増していることを強調しています。

新しい道の開拓

Figma Makeにより、チームはデザインの方法を再考しています。Maven Clinic、Pendo、ServiceNow、LinkedInなどの企業では、デザインシステムの展開方法やPRDの定義方法が変革されています。より迅速に、コードで作業し、より流動的にコラボレーションすることが可能になっています。

コンテキストの明確化

AI支援コーディングツールが日常的なワークフローの一部となる中、デザイナーはコンテキストに焦点を当てる必要があります。ファイル、システム、注釈が他者（およびAI）に作業を理解させる方法についてのベストプラクティスが紹介されています。

追加リソース

  • デザインシステムに関するFigmaの最良のコンテンツ集（基礎からAIによる将来の自動化まで）
  • デザインリーダーが変化の多い時代にレジリエントなチームを構築する7つの方法
  • Figma Make-a-thonの受賞者が共有する、プロトタイプをプロンプトで作成するための戦略

日付: 2025/11/06
カテゴリ:
ソース: Issue no.13: All systems go