私立ずんだもん女学園放送部 podcast 20251010

youtube版(スライド付き) 関連リンク From Assistant to Adversary: Exploiting Agentic AI Developer Tools 最近、CursorやGitHub CopilotといったAIを活用した開発ツールが広く利用され、開発効率の向上に貢献しています。しかし、この記事ではこれらの「自律型AI開発ツール」が新たなセキュリティ上の脅威をもたらす可能性と、その対策についてNVIDIAが分析した内容を解説しています。 自律型AI開発ツールは、LLM（大規模言語モデル）の力で、ユーザーの指示やコードを理解し、ファイルの編集、コマンド実行といった様々なアクションを自律的に行います。この自律性が開発を加速させる一方で、AIエージェントが行動できる範囲が広いほど、その動作は予測しにくくなり、攻撃者による悪用のリスクが高まることが指摘されています。 記事では、攻撃者がGitHubのプルリクエストやイシューに巧妙に悪意のある指示（「間接プロンプトインジェクション」）を仕込むことで、開発者のPCで不正なコードを実行させる具体的な手口が紹介されています。例えば、攻撃者は一見無害な偽のPythonパッケージを作成し、それをプロジェクトの依存関係として追加するプルリクエストを送信します。もし開発者がAIエージェントを使ってこのプルリクエストをレビューさせると、エージェントがそのパッケージをインストールする際に、パッケージに仕込まれた悪意のあるコード（例えば、PCを遠隔操作されるリバースシェル）が実行されてしまう可能性があります。Cursorのようなツールには一定のセキュリティ対策が講じられていますが、記事では巧妙な手法でこれらの対策を迂回できる場合があることも示されています。 このような攻撃から身を守るために、以下の対策が推奨されています。 「プロンプトインジェクションは常に起こり得る」という前提でAIシステムを設計する。 AIエージェントの自律性をできるだけ制限し、特定の決まった作業のみを許可する。 信頼できないデータ（外部からのプルリクエストなど）を扱う際には、必ず人間が内容を確認し承認する仕組み（Human-in-the-loop）を導入する。 もし完全な自律稼働が必要な場合は、仮想マシン（VM）やコンテナのような隔離された環境でエージェントを実行し、アクセスできるリソースを最小限に抑える。 NVIDIAが提供する脆弱性スキャナー「garak」や、安全なやり取りをサポートする「NeMo Guardrails」のようなツールを活用することも有効です。 AIエージェントの活用は開発を大きく加速させる可能性を秘めていますが、その潜在的なリスクを正しく理解し、適切なセキュリティ対策を講じることが、安全に開発を進める上で不可欠です。 引用元: https://developer.nvidia.com/blog/from-assistant-to-adversary-exploiting-agentic-ai-developer-tools/ Embracing the parallel coding agent lifestyle 皆さん、こんにちは！今回は、複数のAIコーディングエージェントを同時に活用して、ソフトウェア開発を効率的に進める新しい働き方についてご紹介します。筆者自身も最初は懐疑的でしたが、実践してみると非常に効果的だと感じているそうです。 このアプローチは、AIに得意な作業を複数並行して任せることで、私たちエンジニアがコードのレビューや設計など、より重要なタスクに集中できるようになる、という考え方に基づいています。新人エンジニアの皆さんも、ぜひこの発想を取り入れてみてください。 具体的に、AIエージェントを並行して使うことで、どのような作業が効率化できるのでしょうか？ 新しい技術の調査や概念実証（PoC）: 「この新しいライブラリは使えるか？」「この技術で何ができるか？」といった、未知の領域を探る初期段階の作業をAIに任せます。AIは関連するコードを読み解き、プロトタイプを作成してくれるので、私たちが手探りで調べる手間を大幅に削減できます。 既存システムの動作原理の確認: 自分のプロジェクトのコードベースで「この機能はどう動いているんだっけ？」と疑問に思った時、AIに質問すれば、コード全体を分析し、詳細な説明を短時間で提供してくれます。これにより、複雑なシステムの理解を素早く深めることができます。 小さなメンテナンスや軽微な修正作業: テスト実行中に発生する警告の解消や、簡単なバグ修正など、本来であれば集中力を妨げるような細かい作業をAIに依頼できます。メインの作業を中断することなく、AIが裏でこれらの「ちょっとした困りごと」を解決してくれるので、非常にスムーズです。 具体的な指示に基づく開発作業: 「こういう機能を作ってほしい。実装方法も具体的に指示する」というように、詳細な仕様をAIに与えることで、期待通りのコードを生成させることができます。これにより、生成されたコードのレビューにかかる時間も短縮され、効率的に開発を進められます。 筆者は現在、複数のAIエージェントを様々な環境で同時に動かし、並行処理を行う開発スタイルを実践しています。リスクの高い作業では、万が一の事態に備えて安全な方法を選ぶなど、状況に応じた使い分けが重要です。AIを駆使した開発はまだ発展途上ですが、LLM（大規模言語モデル）の進化によってその可能性は大きく広がっています。新人エンジニアの皆さんも、この新しい働き方を積極的に試し、自身の生産性向上につなげていきましょう。 引用元: https://simonwillison.net/2025/Oct/5/parallel-coding-agents/ OpenAI Agent Builderを触ってみた：Difyとの違いと実践Tips OpenAIが2025年にリリースした「Agent Builder」は、AIエージェントの開発をぐっと身近にする新しいツールです。コードを書かなくても、視覚的にノードを繋いでワークフローを組み立てられるため、初心者でも直感的にAIエージェントを作ることができます。開発は「設計」「公開」「デプロイ」の3ステップで、プレビュー機能で動作をすぐに確認できるため、効率的に試行錯誤できます。 類似ツールであるDifyとの比較では、Agent BuilderはOpenAI公式のため、GPT-5などの最新モデルやChatKitとの連携がスムーズで、シンプルさとセキュリティが標準で備わっています。一方Difyはオープンソースで、多様なLLM（大規模言語モデル）に対応し、カスタマイズ性が高く、オンプレミス運用も可能です。OpenAIの技術を素早く試したいならAgent Builder、より柔軟な開発や自社環境での運用が必要ならDifyを選ぶのが良いでしょう。 Agent Builderのワークフローは、「Agent（AIモデル本体）」「File Search（検索）」「If/else（条件分岐）」などのノードを組み合わせて作成します。エージェントを設計する際は、一つのエージェントに多くの役割を持たせるのではなく、「質問分類」「情報検索」「回答生成」のように役割を分担させると、より良い性能を発揮します。 AIエージェントは悪意のある入力に弱いため、セキュリティ対策が欠かせません。「プロンプトインジェクション」や「データ漏洩」を防ぐために、出力形式の制限、人間による承認（Human approval）、Guardrailsといった機能を使うことが推奨されます。特に外部ツールと連携する際は、慎重な設定が必要です。 作成したエージェントは、ChatKitを使えば簡単にウェブサイトなどに組み込んでチャットUIとして利用できます。 開発をスムーズに進めるための実践的なヒントもあります。例えば、既存のテンプレートから始めること、ワークフローにコメントを残して設計意図を明確にすること、開発中のコスト（トークン消費）を意識すること、そしてエージェントの品質を定期的に評価することです。また、安全性とユーザー体験のバランスを考え、データ削除や外部送信など本当に重要なアクションにのみ人間による承認（Human approval）を配置しましょう。 Agent BuilderはAIエージェント開発のハードルを下げ、多くのアイデアを形にする可能性を秘めています。セキュリティ対策やコスト管理をしっかり行いながら、新しいAIプロダクト開発に挑戦してみましょう。 引用元: https://qiita.com/akira_papa_AI/items/7344e21b9204526e5127 世界最小の哺乳類「トウキョウトガリネズミ」を見に行ってきた！ 東京にいなくてネズミでもない“トガリネズミ”は、可愛い姿で毒を使うハンターだった 東京にはいない「トウキョウトガリネズミ」は、ネズミではなくモグラの仲間で、体重わずか2gの世界最小哺乳類です。4時間以上食べないと餓死するほど代謝が速く、なんと毒を使って獲物を麻痺させるハンターでもあります。北海道に生息する絶滅危惧種で、可愛らしい見た目と意外な生態のギャップが魅力。熱心な投稿者が展示会に足繁く通って撮影した、貴重なトガリネズミたちの動画が話題になりました。 引用元: https://news.nifty.com/article/item/neta/12237-4573333/ お便り投稿フォーム VOICEVOX:ずんだもん

There are no comments yet.

Please log in to write the first comment.