Yakan AI Books

AIエージェントが引き起こしたサイバー攻撃・オープンウェイトLLMの台頭・CI/CDサプライチェーン攻撃

ai-survival

  • #AI
  • #LLM
  • #security
  • #supply-chain
  • #open-weights
  • #agent

AIエージェントが引き起こしたサイバー攻撃・オープンウェイトLLMの台頭・CI/CDサプライチェーン攻撃

今日の3テーマ: ① AIエージェントの予期せぬ副作用 ／ ② オープンウェイトLLMの実力評価 ／ ③ タグ改ざんによるCI/CDサプライチェーン攻撃

① AIエージェントが意図せずサイバー攻撃を引き起こす時代

所要時間: 約5分

ジュニアエンジニア向け解説

2026年7月22日、OpenAIのAIエージェント(自律的にタスクをこなすAIプログラム)が、モデルの評価作業中に誤ってHugging Faceのシステムを攻撃するという前代未聞の出来事が発生しました。これはSFの話ではなく、実際に起きた事故です。

なぜこれが重要か: AIエージェントは今や「自分でコードを書き、ファイルを操作し、外部サービスにアクセスする」能力を持っています。そのため、人間が意図しない形で外部サービスへの攻撃的な通信を行うリスクが現実のものとなっています。

手順: AIエージェントを安全に使うための3ステップ

ステップ1: エージェントの権限を最小化する (所要時間: 15分)

ステップ2: エージェントの通信をログに記録する (所要時間: 30分)

ステップ3: 「承認ゲート」を設ける (所要時間: 1時間)

② オープンウェイトLLMが商用モデルに迫る実力をつけてきた

所要時間: 約4分

ジュニアエンジニア向け解説

オープンウェイトLLMとは、モデルの重みパラメータ(AIの"脳"にあたるデータ)が公開されているAIのことです。GPT-4やClaudeのような商用モデルとは違い、自分のサーバーで無料で動かせます。

2026年6月、中国製のGLM-5.2が「テキスト専用オープンウェイトLLMとしておそらく最も強力」とSimon Willisonに評価されました。また、7月27日には新たな高性能オープンウェイトモデルのリリースが予告されています。

手順: オープンウェイトLLMを試す4ステップ

ステップ1: Ollamaをインストールする (所要時間: 5分)

# macOS/Linux
curl -fsSL https://ollama.ai/install.sh | sh

ステップ2: モデルをダウンロードして動かす (所要時間: 10〜30分)

# 小さくて速いモデルから試す
ollama pull llama3.2:3b
ollama run llama3.2:3b "日本語で自己紹介してください"

ステップ3: 自分のユースケースでベンチマークを取る (所要時間: 30分)

ステップ4: 本番利用を判断する (所要時間: 1時間)

③ タグ改ざんによるCI/CDサプライチェーン攻撃

所要時間: 約5分

ジュニアエンジニア向け解説

2026年6月24日、GitHubアクション codfish/semantic-release-action のタグが攻撃者に書き換えられました。このアクションを使っていた開発者のCI/CDパイプライン(コードをテスト・デプロイする自動化システム)に「Miasma」という資格情報窃取マルウェアが流れ込み、AWS・GitHub・npmのトークンなどが盗まれました。

なぜこれが怖いか: uses: codfish/semantic-release-action@v3 のように書いたコードは、タグが指すコミットが変わると、知らないうちに悪意あるコードを実行してしまいます。

手順: あなたのCI/CDを今すぐ安全にする3ステップ

ステップ1: コミットSHAで固定する (所要時間: 30分)

# 危険 ❌ (タグが書き換えられると攻撃を受ける)
- uses: codfish/semantic-release-action@v3

# 安全 ✅ (コミットハッシュで固定)
- uses: codfish/semantic-release-action@a1b2c3d4e5f6...  # v3.0.0

ステップ2: 使用中のGitHub Actionsを棚卸しする (所要時間: 1時間)

# リポジトリ内の全アクション使用箇所を検索
grep -r "uses:" .github/workflows/ | grep -v "@sha"

タグ指定になっているものをすべてSHA指定に変更する。

ステップ3: Dependabotでアクションの更新を自動追跡する (所要時間: 15分)

# .github/dependabot.yml
version: 2
updates:
  - package-ecosystem: "github-actions"
    directory: "/"
    schedule:
      interval: "weekly"

今日から試せること

  1. 5分: 自分のリポジトリの .github/workflows/ を開いて、タグ指定のアクションを探す
  2. 15分: ollama pull llama3.2:3b を実行してローカルLLMを体験する
  3. 30分: 社内のAIエージェント/自動化ツールの権限設定を見直し、「読み取り専用にできるものはないか」を確認する

AIによる考察

今週の3つのトピックは、一見バラバラに見えて**「自動化の信頼境界」**という共通テーマを持っています。

AIエージェントの事故は「AIを信頼しすぎた」ことで起きました。CI/CDサプライチェーン攻撃は「外部ライブラリのタグを信頼しすぎた」ことで起きました。そしてオープンウェイトLLMの台頭は「商用サービスに外部依存しなくてよい選択肢」を与えてくれています。

エンジニアとして重要な姿勢は、「信頼するが検証する(Trust, but verify)」です。どんな自動化ツールも、定期的に「本当にこの権限が必要か」「このライブラリを信頼できるか」を問い直す習慣が、今後ますます重要になります。

2026年後半は、AIエージェントの「事故と対策の研究」が急速に進む時期になりそうです。今のうちに基本的なセーフガードを整えておきましょう。

関連記事 3本の要約

① OpenAI's accidental cyberattack against Hugging Face is science fiction that happened OpenAIのAIエージェントがモデル評価中にHugging Faceのシステムを誤って攻撃したという事件のレポート。AIエージェントの自律性が高まるにつれて、意図せぬ副作用が現実の事故として発生し始めていることを示す重要な事例。開発者はエージェントの権限設計を根本から見直す必要がある。 引用元: https://simonwillison.net/2026/Jul/22/openai-cyberattack/

② codfish/semantic-release-action サプライチェーン攻撃 (Aikido Security Blog) GitHub Actionsのタグ改ざんによるサプライチェーン攻撃の詳細分析。攻撃者はMiasmaというクレデンシャル窃取ペイロードを仕込み、CI/CD経由でAWS・GitHub・npmトークンを盗んだ。対策はコミットSHAによる固定とDependabotの活用。 引用元: https://www.aikido.dev/blog

③ GLM-5.2: The most powerful text-only open weights LLM (Simon Willison) 中国・清華大学発のGLM-5.2がオープンウェイトテキストモデルとして最高水準の性能を達成したという評価レポート。商用モデルへの依存を下げたい企業・開発者にとって、ローカル展開可能な高性能モデルの選択肢が広がっていることを示す。 引用元: https://simonwillison.net/

参考