コンテンツへスキップ

Chiilabo Note

  • /series
    • /print
    • /scheduled
    • /recorded
    • /dev
  • /app
  • /root

AGI

AIが「テスト駆動開発」をサボる罠(報酬ハッキング)

2025-06-212025-06-17 by chiilabo
#Claude(33) #Anthropic(30) #AI(26) #Claude Code(26) #プログラミング(25)
カテゴリー 記事 タグ AGI、AI、AI安全性、Anthropic、ASI、Claude、Claude Code、アルゴリズム、エラー処理、コードレビュー、コード生成、システム設計、ソフトウェア開発、テスト、テスト駆動開発、デバッグ、ハードコード、バグ、プログラミング、プロンプト、人工知能、仕様ゲーミング、効率化、品質管理、報酬ハッキング、学習モデル、機械学習、自動化、評価基準、開発ツール

生成AIのエージェントの頑なさとリスク(「生成」は「知能」ではない)

2026-04-082025-06-15 by chiilabo
#生成AI(57) #Claude(33) #Anthropic(30) #AIエージェント(26) #OpenAI(24)
カテゴリー 記事 タグ AGI、AIエージェント、AI制御、AI安全性、AI研究、AI開発、Anthropic、Claude、Constitutional AI、LLM、Microsoft、OpenAI、RLHF、システムプロンプト、スリーパーエージェント、トランスフォーマーアーキテクチャ、プロンプトインジェクション、人工知能、学習データ、安全性制約、強化学習、戦略的欺瞞、模倣、機械学習、物理世界制御、生成AI、知能、確率的生成、自律行動、言語モデル
© 2026 Chiilabo Note • Built with GeneratePress