コンテンツへスキップ

/recent
- /recorded
- /scheduled
- /dev
- /print
- /series
/app
/root

Transformer

生成AIモデルの「学習」でほんとうに記録されるデータ

2026-08-102026-08-10 by chiilabo

#生成AI（90） #トークン（31） #機械学習（25） #大規模言語モデル（23） #ニューラルネットワーク（16）

カテゴリー記事タグ KVキャッシュ、MNIST、Transformer、ZIP圧縮、アテンション機構、データセット、トークン、ニューラルネットワーク、パラメータ、モデルサイズ、一般化、中間層、丸暗記、入力層、写像、出力層、勾配降下法、多層パーセプトロン、大規模言語モデル、学習データ、情報量、手書き数字認識、推論、文脈内学習、機械学習、生成AI、著作権、過学習、重ね合わせ、重み

生成AIは、言語の変換器である（入力が出力を方向付ける）

2026-07-17 by chiilabo

#生成AI（90） #自然言語処理（18） #言語モデル（18） #ニューラルネットワーク（16） #Transformer（13）

カテゴリー記事タグ Attention、AutoGPT、Transformer、コンピュータ将棋、セル・オートマトン、ソフトマックス関数、チューリング完全、ニューラルネットワーク、ライフゲーム、ラムダ計算、主体性、人格、依存、入力、出力、創発、多様性、将棋AI、文脈、生成AI、目的意識、相談、確率分布、確率的写像、自律型エージェント、自然言語処理、言語モデル、言語変換器、評価関数、道具

【waka-gen-model】「和歌」の小さな生成AIを作った（小規模言語モデル）

2026-06-282026-06-20 by chiilabo

#言語モデル（18） #Transformer（13） #可視化（12） #パラメータ（11） #確率分布（5）

カテゴリー記事タグ attention head、BPE、decoder-only、GELU、MLP、NDJSON、RMS、softmax、Transformer、waka-gen-model、カテゴリカルサンプリング、トークン化、パラメータ、ロジット、交差エントロピー損失、位置埋め込み、可視化、和歌、和歌生成AI、埋め込み、小型Transformer、損失関数、教育用言語モデル、文字レベルトークン化、次文字予測、温度サンプリング、確率分布、自己回帰生成、自己注意機構、言語モデル、重み

生成AIの論理らしさはどこから生まれるのか

2026-03-09 by chiilabo

#抽象化（15） #Transformer（13） #学習データ（13） #一貫性（5） #推論能力（4）

カテゴリー記事タグ nanoGPT、Transformer、デフォルト前提、パラメータ規模、フレーム問題、一貫性、創発、命題推論、学習データ、学習の安定性、学習プロセス、安全弁、完全性、局所的判断、意味的関係、抽象化、推論能力、損失関数、更新ステップ、環境適応、生存可能性、組み合わせ爆発、統語パターン、継続学習、行動効果、複合的抽象化、記号操作、論理性、過学習、選択的注意

生成AIの中の「混沌」（Transformer）

2026-03-062026-03-05 by chiilabo

#生成AI（90） #機械学習（25） #大規模言語モデル（23） #ハルシネーション（19） #自然言語処理（18）

カテゴリー記事タグ Attention Is All You Need、He初期化、RAG、softmax、Transformer、Xavier初期化、アテンション機構、エントロピー、コード生成、スーパーポジション、トークン予測、ニューラルネットワーク、パラメータ、ハルシネーション、ファインチューニング、ポリセマンティシティ、モノセマンティック、ロジット、内部表現、制御可能性、勾配消失、大規模言語モデル、機械学習、生成AI、確率的勾配降下法、確率的生成、脚注、自然言語処理、解釈可能性、重み初期化

AIはなぜ「大切な禁止事項」を忘れるのか

2026-03-022026-03-02 by chiilabo

#生成AI（90） #Anthropic（45） #OpenAI（39） #トークン（31） #LLM（26）

カテゴリー記事タグ Anthropic、Constitutional AI、Instruction Hierarchy、LLM、Lost in the Middle、OpenAI、RLHF、Self-Attention、SFT、Transformer、アーキテクチャ、アテンション機構、ガードレール、コンテキスト、システムプロンプト、チェックポイント、トークン、フィルタ、倫理的制約、出力制御、命令優先順位、安全制約、強化学習、微調整、忘却、生成AI、身体性、道徳、重要フラグ、長文脈

生成AI（LLM）とルールベースAIの違い

2026-02-062026-02-05 by chiilabo

#生成AI（90） #ChatGPT（68） #Claude（43） #LLM（26） #機械学習（25）

カテゴリー記事タグ AI冬、ChatGPT、Claude、Gemini、LLM、Transformer、エキスパートシステム、コンテキストウィンドウ、データ駆動、ニューラルネットワーク、パラメータ、ブラックボックス、ルールベースAI、事前学習、二層構造、大規模言語モデル、専門家システム、強化学習、推論エンジン、文脈参照、機械学習、注意機構、深層学習、生成AI、知識ベースAI、知識表現、確率的生成、統計的学習、自然言語処理、言語パターン

言語モデルの「脳内」の「外れ値」の意義（スケール調整）

2026-02-202026-02-03 by chiilabo

#生成AI（90） #大規模言語モデル（23） #Transformer（13） #可視化（12） #深層学習（12）

カテゴリー記事タグ Attention、attention sink、outlier、softmax、Transformer、ゲート付きスケーリング、スケール調整、テンソル、ヒートマップ、モデル内部、内部構造、再スケーリング、分散、副作用、可視化、外れ値、大規模言語モデル、学習、帰納的アプローチ、平均、性能低下、数値分布、文頭トークン、正規化、注意機構、深層学習、生成AI、脳構造、軽量化、量子化

「Nano BananaとGeminiは同じなの？（統合モデルのOutput Head）

2025-12-182025-12-18 by chiilabo

#OpenAI（39） #Google（23） #Gemini（20） #自然言語処理（18） #言語モデル（18）

カテゴリー記事タグ AI開発、CLIP、DALL-E、Decoder-only Transformer、Gemini、Gemini 3 Pro、Google、GPT-4o、Mixture-of-Experts、MoE、Nano Banana、OpenAI、Output Head、Transformer、アーキテクチャ、テキスト生成、ニューラルネットワーク、パラダイムシフト、パラメータ、マルチモーダルモデル、基盤モデル、拡散モデル、深層学習、画像生成、画像生成AI、統合モデル、自然言語処理、表現空間、言語モデル、訓練

生成AIの内部状態からチャットを逆算できる？（Transformerの単射性）

2025-12-122025-12-10 by chiilabo

#セキュリティ（118） #生成AI（90） #ChatGPT（68） #プライバシー（32） #トークン（31）

カテゴリー記事タグ Attention、ChatGPT、GPU、SIPIT、Transformer、セキュリティ、チャット、データ管理、デバッグ、テンソル、トークン、ニューラルネットワーク、プライバシー、ベクトル、モデル重み、ローカル環境、入力復元、内部状態、可逆変換、商用サービス、微調整、情報保持、抽象化、残差接続、流出リスク、生成AI、研究環境、線形性、言語モデル、逆算

AIエージェントが苦手とするコード構造（人間向け設計とAI向け設計）

2026-02-202025-06-08 by chiilabo

#AIエージェント（39） #トークン（31） #LLM（26） #プログラミング（25） #機械学習（25）

カテゴリー記事タグ Agentic Coding、AIエージェント、AI開発、AutoGen、Cline、CrewAI、Cursor、Devin AI、GitHub Copilot、LangChain、LLM、repomix、Transformer、コード構造、コンテキストウィンドウ、トークン、トークン消費、ファイル分割、フォルダ構成、プログラミング、メモリ消費、依存関係、処理速度、性能低下、機械学習、注意機構、深層学習、生成品質、自動化、計算コスト

トランスフォームとは何なのか？生成AIから逆照射した知性と存在

2025-04-272025-04-27 by chiilabo

#生成AI（90） #Transformer（13） #関数（8） #Attention（4） #注意機構（4）

カテゴリー記事タグ Attention、Transformer、シニフィアン、シニフィエ、ソシュール、トランスフォーム、フーリエ変換、プラトン的実在論、ベクトル表現、公理、写像、創発的知性、変換プロセス、定理、形式主義、心理的実在、心身問題、恣意性、意味空間、意識、数学的変換、構成主義、注意機構、物理的存在、生成AI、知性、線形代数、言語記号、記号学、関数

無料でできるAI文字起こしGoogle AI Studio（mp3→テキスト）

2026-02-202025-03-24 by chiilabo

#プロンプト（34） #トークン（31） #大規模言語モデル（23） #Googleアカウント（22） #Gemini（20）

カテゴリー記事タグ BERT、Gemini、Google AI Studio、Google Drive、Googleアカウント、LINE Clova Note、MP3、Transformer、ZOOMミーティング、アップロード、エンコーダ、コンテキスト長、つなぎ言葉、テキスト変換、トークン、ドラッグ&ドロップ、プロンプト、利用制限、口語体、報告書、大規模言語モデル、文字起こし、文章体、文章整形、段階的処理、無料、複数作業、議事録、録音データ、音声ファイル

© 2026 Chiilabo Note • Built with GeneratePress

検索: