NovelAI Journal
Back to NovelAI

ジャーナル記事

【テキストモデル対応発表】NovelAI Opus向け GLM-4.5(未調整プレビュー)公開

公開日

お待たせいたしました!本日、NovelAIでGLM-4.5ベースモデルをリリースできることを大変嬉しく思います。NovelAI Diffusion V4.5と同じナンバリングで、不思議なご縁を感じます!もちろん、NovelAIの品質基準に合わせたストーリー生成モデルへのファインチューニングも予定していますが、テキスト機能をご愛用いただいているユーザーの皆さんに長らく大きなアップグレードをお届けできていなかったため、まずは未調整モデルをプレビュー版としてリリースすることにいたしました。すでに十分な実力を備えており、ストーリー生成に役立つ新機能も追加できました。

次のテキストモデルのベースとして、どのモデルを使うかいろいろテストしました。創造性、ポップカルチャーの知識、文章力など、あらゆる角度から検証した結果、最終的にGLM-4.5に決定いたしました。このモデルは、なんと3,550億パラメータのMixture of Experts(MoE)モデルという圧倒的なスケールを誇ります。

GLM-4.5では、コンテキストサイズ28,672トークンでご利用いただけます。さらに8,192トークンのロールオーバーウィンドウを搭載しているため、ストーリーエディターで実際に使用可能なコンテキストサイズは28,672〜36,864トークンの範囲となります。ロールオーバーウィンドウとは、ストーリーが最大サイズまで使用された後、28,672トークンまで削減される仕組みです。この機能により、可能な限り多くのコンテキストを活用しながら、特別な最適化によって生成速度を維持できます。既存モデルと比較して約4倍のコンテキストサイズを実現!1トークンは約4文字に相当するため、約11万2,000〜14万4,000文字の記憶容量をお楽しみいただけます。

開発チームでのテスト中、新しいモデルでの創作体験、拡張されたコンテキストサイズ、そして新機能の数々が、とても快適で楽しい体験をもたらしてくれました。ファインチューニング作業の完成まで、このプレビュー版を皆さんにもお楽しみいただけることを心から願っています。未調整のインストラクトモデルのため、時折予期しない動作をする可能性がありますが、そうした問題を最小限に抑えるよう設定を調整しています。ATTGなどのNovelAI固有のフォーマットは明示的にサポートされていませんが、ATTGラインを提供すればその一般的な意味は理解してくれるでしょう。

パフォーマンス上の理由から、大きなコンテキストサイズを提供するため、フレーズバイアス、各種サンプラー、サンプラーオーダーなどの高度なサンプリングオプションの一部を省略いたしました。ただし、このモデルはサンプラーの細かい調整をあまり必要とせず、非常にシンプルなプリセットでも高い整合性を持つテキストを生成できます。

新モデルは約2週間、Opusサブスクライバーの皆さん限定でご利用いただけます。

ライターズツールボックス(Writer’s Toolbox)
長らく開発を続けてきた新機能「ライターズツールボックス(Writer’s Toolbox)」がついに登場です!すでに書いた文章を様々な方法で変換できる強力なツール群です。エディターでテキストを選択してコンテキストメニューから、または各段落左側の魔法の杖アイコンからアクセスできます。

リライト(Rewrite)機能
選択した文章を、既存のストーリーのスタイルに合わせて書き直します。「なんだか文体が統一されていない」「モデルが軌道から外れてしまった」と感じたときの救世主です。

コンセプト注入(Latent Shifter)機能「この文章をもっと『ピーナッツバター』らしくしたい」「『クリスマス』の雰囲気を注入したい」 — — そんな不思議なリクエストも、コンセプト注入機能なら実現可能です!コンセプトと強度を指定すると、選択した文章をそのコンセプトで満たしてくれます。

_拡張(Expand)機能_もっと詳細に書いてほしい文章があるときの頼れる相棒です。探索とインスピレーションに最適で、骨組みだけのシンプルな文章を入力すれば、モデルが豊かな表現で膨らませてくれます。

_凝縮(Condense)機能
_拡張とは正反対の機能です。文章が装飾過多になってしまったとき、凝縮で簡潔にまとめられます。要約や文章の本質を把握したいときにも便利です。

_カスタム(Custom)機能
_最も柔軟性の高いツールです。文章を選択して、どのように変換してほしいかを自由に指示してください。可能性は無限大です!

**一新されたテキストアドベンチャーモード
**GLM-4.5に合わせて、テキストアドベンチャーモードも大幅に改良いたしました。あなたの冒険をより確実にナレーションしてくれます。CYOA(Choose Your Own Adventure)スタイルで、選択肢から次の行動を選ぶ形式をお好みなら、アドベンチャーのメモリー(Memory)ボックスに「[ Tags: text adventure, fantasy, CYOA ]」のような記述を試してみてください。

**指示(Instruct)機能
**GLM-4.5は本格的な指示対応モデルのため、ストーリー内指示機能がフルパワーで復活しました!ストーリーのどの時点でも、段落を「{」で始めることで指示ブロックを追加でき、モデルに直接何を書いてほしいかを指示できます。便利機能として、Shift+Enterで指示メッセージを複数行に渡って続けることも可能になりました。

**多言語サポート
**GLM-4.5は多くの言語で強力な能力を発揮します。英語、日本語、中国語では特に優秀ですが、その他の多くの言語でも創作をサポートしてくれるでしょう。ぜひ、あなたのお気に入りの言語での執筆にチャレンジしてみてください!

**マークダウン書式対応
**モデルがマークダウン(Markdown)形式のテキストを出力できるため、ストーリーエディターも対応するようアップデートしました。太字、斜体、取り消し線など、マークダウンのサブセットをサポートしています。

**メモリー(Memory)と作者注釈(Author’s Note)
**がモデルに送信されるコンテキストへの挿入方法を変更いたしました。これまでのようにストーリーテキストの一部として単純に挿入するのではなく、異なる方法で挿入することにより、含まれる情報への順応性を向上させ、同時に情報の漏出も削減しています。作者注釈(Author’s Note)ボックスは、皆さんが想像されるとおりの動作により近い形で機能し、ストーリーの舵取りにご活用いただけます。

**Updated Lorebook
**パフォーマンス向上とより大きなコンテキストサイズの提供のため、ロアブック(Lorebook)から高度なコンテキスト挿入設定を削除いたしました。その代わり、新しい「高度な条件(Advanced Conditions)」タブを追加し、ロアブック(Lorebook)エントリーが活性化される追加条件を設定できるようになりました。エントリー同士を連携させたり、より細かくアクティベーションキーワードを指定したりできます。さらに、通常のロアブック(Lorebook)キーでの「&」の使用に新しい意味を追加しました。これを使用すると、複数のキーがアクティベーション検索ウィンドウ内に存在する必要があることを意味します。例えば、ロアブック(Lorebook)キーを「NovelAI & Anlatan」と設定した場合、「NovelAI」と「Anlatan」の両方のキーワードが最近のコンテキスト内に存在する場合のみ、そのエントリーがアクティベートされます。

メモリー(Memory)や作者注釈(Author’s Note)と同様に、ロアブック(Lorebook)エントリーのコンテキストへの挿入方法も調整し、より一貫した動作と情報漏出の削減を実現しました。