コンテンツへスキップ

Chiilabo Note

  • /series
    • /print
    • /scheduled
    • /recorded
    • /dev
  • /app
  • /root

Constitutional AI

AIはなぜ「大切な禁止事項」を忘れるのか

2026-03-022026-03-02 by chiilabo
#生成AI(59) #Anthropic(31) #トークン(25) #OpenAI(24) #LLM(19)
カテゴリー 記事 タグ Anthropic、Constitutional AI、Instruction Hierarchy、LLM、Lost in the Middle、OpenAI、RLHF、Self-Attention、SFT、Transformer、アーキテクチャ、アテンション機構、ガードレール、コンテキスト、システムプロンプト、チェックポイント、トークン、フィルタ、倫理的制約、出力制御、命令優先順位、安全制約、強化学習、微調整、忘却、生成AI、身体性、道徳、重要フラグ、長文脈

生成AIのエージェントの頑なさとリスク(「生成」は「知能」ではない)

2026-04-082025-06-15 by chiilabo
#生成AI(59) #Claude(33) #Anthropic(31) #AIエージェント(26) #OpenAI(24)
カテゴリー 記事 タグ AGI、AIエージェント、AI制御、AI安全性、AI研究、AI開発、Anthropic、Claude、Constitutional AI、LLM、Microsoft、OpenAI、RLHF、システムプロンプト、スリーパーエージェント、トランスフォーマーアーキテクチャ、プロンプトインジェクション、人工知能、学習データ、安全性制約、強化学習、戦略的欺瞞、模倣、機械学習、物理世界制御、生成AI、知能、確率的生成、自律行動、言語モデル
© 2026 Chiilabo Note • Built with GeneratePress